Reklama
Polityka_blog_top_bill_desktop
Polityka_blog_top_bill_mobile_Adslot1
Polityka_blog_top_bill_mobile_Adslot2
Duch w maszynie - Blog Olafa Szewczyka Duch w maszynie - Blog Olafa Szewczyka Duch w maszynie - Blog Olafa Szewczyka

14.06.2014
sobota

Inne formy inteligencji

14 czerwca 2014, sobota,

 

Rachel („Łowca androidów”) jako wyraz marzeń o „doskonałych”, czyli antropoidalnych maszynach

 

Opublikowany niedawno w „Polityce” artykuł o lękach, jakie budzi w naukowcach perspektywa pojawienia się wśród nas myślących maszyn, okazał się kamykiem rzuconym w jezioro. Kręgi się rozchodzą. Usłyszałem kilka ciekawych komentarzy, ktoś podobno szykuje do druku obszerną odpowiedź, mój tekst zauważyła także redakcja „Gazety Wyborczej”. Po zawstydzająco bezrefleksyjnej, powszechnej medialnej ekscytacji rzekomym zaliczeniem testu Turinga przez rzekomy superkomputer udający 13-letniego Eugene’a (Jewgienija?) Goostmana z Odessy zostałem poproszony przez „GW” o zabranie na ten temat głosu.

Artykuł ukazał się w dzisiejszej „Gazecie”, znajdą go Państwo tutaj. Uprzedzając możliwe uwagi, wyjaśniam, że tytuł nadała mu redakcja. Co sądzę o owej „sensacji”, zapewne się Państwo domyślają. Jako dziennikarz mogę tylko dodać, że powielanie nonsensu o dowodzie na inteligencję rzekomego „superkomputera” – nawet przez tak szacowne media jak „Washington Post” i „The Guardian” – dość jasno chyba dowodzi, że szukanie oszczędności w dziesiątkowaniu lub wręcz likwidacji działów naukowych nie jest najlepszą strategią na przetrwanie. Gazeta może taką rzeź przeżyje (do czasu), ale jej wiarygodność – niekoniecznie.

Rozjeżdżając walcem wspomniany, za przeproszeniem, test, a potem paląc szczątki i rozsypując popioły, pozwoliłem sobie na wskazanie przyczyn naszych jawnie naiwnych oczekiwań, że myśląca maszyna będzie swą inteligencją na pewno przypominała inteligencję ludzką. Tych samych przyczyn notabene, które każą nam wierzyć, że człowiek jest miarą wszechrzeczy i że jako gatunek wyjątkowy ma prawo traktować inne zwierzęta przedmiotowo.Kulturowe dziedzictwo religii monoteistycznych, bo o tym teraz mówię, wywiera do dziś przemożny wpływ na sposób myślenia i działania przedstawicieli kultury Zachodu – bez względu na to, czy uważają się za żydów, chrześcijan, muzułmanów, ateistów czy agnostyków. Ową mentalnością „narodu wybranego”, „dzieci bożych”, „władców wszelkiego stworzenia” przesycone jest w naszej kulturze wszystko; do tego stopnia, że już tego nawet nie zauważamy. Wpływ perspektywy narzuconej przez monoteistyczne ontologie – pysznej, aroganckiej, konfrontacyjnej, nietolerancyjnej, blokującej empatię wobec istot spoza wybranej kasty – zdeterminował nie tylko nasz pogląd na naturę inteligencji i świadomości. Wpłynął także znacząco na losy świata.

Chętnie bym o tym napisał książkę, gdybym miał szczęście dostać na to jakieś sensowne stypendium, ale nie mam złudzeń. Zapraszam zatem do lektury zaledwie zgrzebnie sygnalizującego zagadnienie szkicu, na który akurat znalazła się wierszówka. Szansy na jego rozwinięcie zapewne nie będzie.

Reklama
Polityka_blog_bottom_rec_mobile
Reklama
Polityka_blog_bottom_rec_desktop

Komentarze: 22

Dodaj komentarz »
  1. „pozwoliłem sobie na wskazanie przyczyn naszych jawnie naiwnych oczekiwań…”

    naszych = dziennikarskich?

  2. @ping
    Także dziennikarskich. To powszechne złudzenie.

  3. Gleboko kiedys wierzono ze jak sie wymysli samolot, to bedzie on musial trzepotac skrzydlami, tak jak ptaki

    Stanislaw Lem skwitowal AI w opowiadaniu o Profesorze Corcoranie: „Nasladujac czlowieka nei stworzy sie sztucznej inteligencji. Mozna co najwyzej stworzyc sztucznego idiote”

  4. Reklama
    Polityka_blog_komentarze_rec_mobile
    Polityka_blog_komentarze_rec_desktop
  5. „Artykuł ukazał się w dzisiejszej „Gazecie”, znajdą go Państwo tutaj. Uprzedzając możliwe uwagi, wyjaśniam, że tytuł nadała mu redakcja…”

    Znajdziemy po oplaceniu subskrypcji GW. Czy nei ma jekiegos miejsca gdzie jes tdostepny bez haraczu?

  6. „Chętnie bym o tym napisał książkę, gdybym miał szczęście dostać na to jakieś sensowne stypendium, ale nie mam złudzeń. ”

    Spora ilosc ksiazek ktore znam (autorow znam tez) powstala z potzreby pisania, a nei z powodu stypendium. Dzien jest dlugi, zamiast obserwowac Mundial, proponuje zajac sie pisaniem. Jak juz bedzie dobra ksiazka, to wydawca na pewno sie znajdzie. A jak nie?… Coz.. Pozostanei satysfakcja I prazenty dla znajomych. Jak rowniez to czego sie autor podczas pisania nauczyl

  7. @A.L.
    Stanislaw Lem skwitowal AI w opowiadaniu o Profesorze Corcoranie: „Nasladujac czlowieka nei stworzy sie sztucznej inteligencji. Mozna co najwyzej stworzyc sztucznego idiote”

    Ładne. Dziękuję, nie pamiętałem tego.

    Spora ilosc ksiazek ktore znam (autorow znam tez) powstala z potzreby pisania, a nei z powodu stypendium. Dzien jest dlugi, zamiast obserwowac Mundial, proponuje zajac sie pisaniem.

    To też ładne. I słuszne. Ale nie w moim świecie. Żałuję.

    Żeby pisać dla frajdy, to trzeba mieć taki komfort, że można na taką pasję swój czas i umiejętności zawodowe poświęcić. Trzeba mieć na przykład stałą umowę o pracę, gwarantującą bezpieczeństwo finansowe. A ja utrzymuję się z wierszówki za artykuły w „Polityce”, felietony w „Gazecie Wyborczej” i okazjonalne fuchy związane z moją umiejętnością obróbki słowa. To nie jest fortuna, zwłaszcza gdy ma się rodzinę, w dodatku perspektywy są coraz gorsze, bo nawet osoby potencjalnie zainteresowane tym, co piszę, wpadają w oburzenie, gdy mają za to płacić – Pan był uprzejmy nazwać to „haraczem”.

    Notabene miesięczny abonament „Wyborczej” kosztuje w promocji – za pierwszy miesiąc – 0,99 zł (słownie: dziewięćdziesiąt dziewięć groszy). Potem: 17 zł 90 gr za miesiąc. Ciekaw jestem, ile minut – bo chyba nie godzin? – musi Pan pracować, by zapłacić ten „haracz”.

    Jestem dziennikarzem niemal od początku wolnej Polski. I ze smutkiem zaczynam się przyzwyczajać do myśli, że to już nie potrwa długo. Rozwiewają się złudzenia, topnieją opcje, coraz bardziej do mnie dociera, że już mnie na to nie stać. Zaczynam się rozglądać za inną pracą. Może wtedy będę miał czas, by pisać tylko dla satysfakcji, a nie dla pieniędzy.

  8. @Gospodarz: „Żeby pisać dla frajdy, to trzeba mieć taki komfort, że można na taką pasję swój czas i umiejętności zawodowe poświęcić. Trzeba mieć na przykład stałą umowę o pracę, gwarantującą bezpieczeństwo finansowe”

    Kazdy by chcial. Ja tez. Ale z ksiazkami, przynajmniej tu gdzie jestem, sprawa jest prosta: aby wydac pierwsza ksiazke, tzreba ja przyniesc do wydawcy. Chyba ze to juz piata ksiazka, a poprzednie odniosly wielki sukces. ALbo to ksiazka na temat zycia seksualnego „wyzszych sfer” 🙂

    „0,99 zł (słownie: dziewięćdziesiąt dziewięć groszy). Potem: 17 zł 90 gr za miesiąc. Ciekaw jestem, ile minut – bo chyba nie godzin? – musi Pan pracować, by zapłacić ten „haracz”.”

    Byla dyskusja na ten temat; bralem udzial. Prenumeruje Polityke, Newsweeka, Tygodnik Powszechny – z polskej prasy. W sumie wydaje prawie 100 dolcow meisiecznie na media. Nie mialbym problemu z 17 zlotymi za Wyborcza

    Ale jak pisalem – poczulem sie, jako wieloletni czytelnik GW, zarowno elektronicznej jak I papierowej (gdy jestem w Polsce) urazony sposobem wprowadzenia tej oplaty. Oszukanczymi informacjami na temat kosztow (nie podano ze 99 groszy tylko za pierwszy meisiac) I metoda „buch w leb”. Ja jestem, prosze GW, waszym KLIENTEM, I zyjecei z mocih pieneidzy.

    Pamietam jak NYT I WSJ wprowadzaly oplaty za wersje elektroniczne. Trwalo to cos 3 miesiace, byla kampania objasniajaca co I dlaczego, I na wszystkie moje majle do redekcji dostalem odpowiedzi. I to napisane pzrez czlowieka.

    Wiec nie prenumeruje GW dlatego ze mnie nei stac. Czuje sie olany wiec I ja olewam

    Tak na marginesie – artykul przeczytalem. Bardzo dobzre napisany. Umieszcza AI tam gdzie ona jest – w kategorii „hucpa”. Postaram sie napisac komentarz

  9. „Jestem dziennikarzem niemal od początku wolnej Polski. I ze smutkiem zaczynam się przyzwyczajać do myśli, że to już nie potrwa długo. Rozwiewają się złudzenia, topnieją opcje, coraz bardziej do mnie dociera, że już mnie na to nie stać. Zaczynam się rozglądać za inną pracą. ” – ale umie Pan pisać, porusza się Pan w obszarach techniki/nauki i wydaje mi się że napisanie książki to całkiem niezły pomysł na to by znaleźć nowa niszę na rynku. Co Pan będzie robił? Meble naprawiał? W Polsce bardzo brakuje mądrej publicystyki techniczno/popularnonaukowej. Pewnie że to nie są żadne kokosy. No i nie spodziewałbym sie zbicia na tym majątku….

    A co do sztucznej inteligencji. Mozna mówić o 3 sprawach. (1) czy uda się oszukać człowieka że program jest inteligentny. Odpowiedź – tak. Oszukać człowieka jest bardzo prosto. (2) czy uda sie zbudować użyteczna inteligencję maszynową. Odpowiedź – tak, już się udało. Wraz ze złożonością algorytmów i baz wiedzy rośnie także złożoność zachowań programów komputerowych. Wybuch metod probabilistycznych w programowaniu sztucznej inteligencji dodatkowo powoduje powstanie użytecznych i skutecznych w pewnym zakresie ( tak jak skuteczne jest losowe przeszukiwanie przestrzeni rozwiązań) sposobów działania takich maszyn. Generalnie tylko brakowi wiedzy matematycznej, bardzo kiepsko reprezentowanej w kulturze popularnej, należy przypisać zdumienie gapiów. No ale co w tym dziwnego? Ludzie nie rozumieją jak działa silnik elektryczny w odkurzaczu, i dla mnie osobiście znacznie bardziej zdumiewającą rzeczą jest fakt że nikogo to nie dziwi ani tym bardziej nie peszy. I to jest fascynujące – ludzie rządzą krajami, podejmują poważne decyzje finansowe, rozwojowe, wypowiadają sie o niezwykle skomplikowanych kwestiach etycznych. A nie wiedzą jak działa odkurzacz. (3) czy uda sie zbudować inteligentne w takim samym sensie jak człowiek, maszyny. Właściwie należałoby tu odpowiedzieć, że nie wiemy czym jest inteligencja ludzka. Nie umiemy jej ani mierzyć, ani tworzyć, ani nawet imitować dostatecznie sprawnie by udało sie oszukać _wszystkich_ kompetentnych testerów. Co więcej, niejeden człowiek miałby kłopoty ze zdaniem testu Turinga co wskazuje że w druga stronę też nie jest dobrze. Abstrahujmy tu też od kwestii czy taka inteligencja jest nam do czegokolwiek potrzebna. Otóż sądzę że nie uda nam się, sądzę że to zadanie przerastające nasze siły na następne nawet i 50 lat. Nie wierzę w przepowiednie o singularity. Nie dlatego że to niemożliwe co do zasady, ale dlatego że nie ma to ani zapotrzebowania, ani pieniędzy. Zwrócę uwagę że w tym zagadnieniu mówimy o czymś całkowicie innym niż w pt. (2). Warto w tym zakresie, jak uważam, poszukać co na ten temat mówi Serale. Inteligencja tak jak ją rozumiemy dziś, nie jest konstruktem obiektywnym. Przypisujemy inteligencję innym istotom, o tyle o ile możemy wierzyć że są one inteligentne. Proszę także zauważyć, że choć jest to co do zasady błąd rozumowania, dla większości ludzi inteligencja oznacza także pewien stopień intencjonalności i wolnej woli, czego trudno doszukiwać się w maszynie o której _wiemy_ jak działa.

  10. @kakaz: Dobrze napisane.

    ” dla większości ludzi inteligencja oznacza także pewien stopień intencjonalności i wolnej woli, czego trudno doszukiwać się w maszynie o której _wiemy_ jak działa.”

    Neizupelnei dobrze wiemy jak dziala. Wiemy w ogolnych zarysac, ale konkretnie, dlaczego rozwiaanei konkretnego problem jest takie a nie inne, juz na ogol nie wiemy. Problemy kombinatoryczne (takje jak w AI) na ogol posiadaja kolosalna ilosc rozwiazan rozniacych sie stosunkowo nieznacznie kosztem, ale zasadniczo rozniacych sie struktura. Algorytmy probabilistyczne (deterministyczne do pewnego stopnia tez) wybieraja jedno z rozwiazan na podstawie „rozumowania” ktore trudno przewidziec i trudno (ze wzgledu na skale problemu) „post mortem” przeanalizowac. Program uruchomiony wiele razy dla tej samej sytuacji wejsciowej neikoniecznie musi dac zawsze ten sam wynik. Wiec jakas tam „autonomia” w maszynach wystepuje

    Odnosnie punktu 2) – publicznosc widzi tylko spektakularne, „pod publiczke” sztuczki z dziedziny AI. Tymczasem AI istnieje z powodzeniem w dziedzinach mniej publicznosci znanej, rozwiazujac problemy intelektualne znacznie pzrekarcajace mozliwosci czlowieka. Przykaldem wszelkei systemy planowania produkcji, planowania logistyki czy planowania operacji. Bez owych algorytmow AI spora czesc gospodarki by sie zawalila.

    Niebezpieczenistwo owych systemow AI to uzaleznienie czlowieka od nich. Operatorzy popadaja we wtorny analfabetyzm, i po pewnym okresie nieufnosci, calkowicie wierza systemowi. A systemy nie maja 100% racji, niestety. Tak wlasnie AI wkraca w zycie spoleczenstwa i dokonuje „mentalnych” zmian, ale nie tak jak to sobie wyobrazaja autorzy SciFi. A sama AI to bynajmniej nei czlekoksztaltne robociki krecace glowka i potarfiace wyrecytowac wierszyk po nacisnieciu guzika. I nei w tych czlekoksztaltnych robocikach jest przyszlosc AI. Cokolwiek by „AI” nie oznaczalo

  11. I jeszcze na temat „wiemy jak dzialaja”… Istnieje dyscyplina, od dosyc dawna, zwana „genetic programming” To ewolucja zaprogramowana w komputerze, a przedmiotem ewolucji sa program komputerowe. Programy ewoluuja tak aby uzyskac wmagany efekt

    Pionierem jest niejaki John Koza. Inna osoba jest Candida Ferreiira, tworczyni „gene expression programming”. To ostatnie doczekalo sie rozwiazan komercyjnych (firma GepSoft)

    Rezultaty sa spektakularne. Moze sie wiec zdarzyc ze computer wygeneruje program ktorego nikomu sie nei bedzei chcialo analizowac, ktorego nei bedzei warto analizowac, lub ze wzgledu an zlozonosc, nei bedzie mozna pzreanalizowac. No ale po co analizowac, skoro program wykonuje to co od neigo chcemy?

  12. @kakaz
    (3) czy uda sie zbudować inteligentne w takim samym sensie jak człowiek, maszyny. (…) Otóż sądzę że nie uda nam się, sądzę że to zadanie przerastające nasze siły na następne nawet i 50 lat. Nie wierzę w przepowiednie o singularity. Nie dlatego że to niemożliwe co do zasady, ale dlatego że nie ma to ani zapotrzebowania, ani pieniędzy.

    A ja jestem przekonany o inercji procesów cywilizacyjnych, na które jako jednostki nie mamy już praktycznie wpływu. Takim procesem jest ciągłe doskonalenie komputerów, wymuszone wyścigiem technologicznym. We wspomnianym artykule z „Polityki” wspominam nawet o już gotowych układach przypominających działaniem korę mózgową, konstruowanych z myślą o eksperymentach pozwalających zrozumieć, jak myślimy, jak dochodzi do schorzeń psychicznych etc. „MIT Technology Review” uznał nawet niedawno procesory neuromorficzne – symulujące pracę mózgu, zdolne do uczenia się – za jeden z najważniejszych trendów tego roku.

    Sądzę, że będą rozwijane nadal. I że interesujące nas w kontekście tej rozmowy efekty mogą pojawić się wcześniej, niż się komukolwiek wydaje. Za najbardziej prawdopodobne uważam powstanie konstruktu przewidzianego przez Searle’a.

    Ja z dużą pokorą podchodzę do proroctw, że się nie uda, że minie mnóstwo lat, zanim osiągniemy sukces na danym polu badań naukowych. Na początku wieku pewne renomowane amerykańskie czasopismo opublikowało tekst zapewniający, że upłyną (o ile dobrze pamiętam) setki tysięcy lat, zanim ludzkość skonstruuje latające maszyny cięższe od powietrza. Chwilę później bracia Wright oderwali się od ziemi.

    A w inteligencji maszynowej zbyt wiele potęg – choćby armie – widzi korzyści, by zakładać, że brak zainteresowania okaże się hamulcem dla badań.

  13. @Pan Redaktor: „Chwilę później bracia Wright oderwali się od ziemi.
    A w inteligencji maszynowej zbyt wiele potęg – choćby armie – widzi korzyści, by zakładać, że brak zainteresowania okaże się hamulcem dla badań.”

    Widaz iz zaklada Pan ze „tecnologia moze wszystko”. Otoz, moze, ate tylko w granicach ktore ma narzucone pzrez prawa przyrody. Nigdy nei uda siezbudowac „perpetuum mobile”, na przykald.

    Nie wiem dokaldnie jakie sa „prawa przyrody” ograniczajace mozliwosci zbudowania „sztucznej inteligencji”. Niektore z nich to ograniczenia logiki w opisie rzeczywistego swiata. Inne to konicznosc posiadania pzrez „sztuczny intelekt” wiedzy o otaczajacym go swiecie, takiej na przykald ze sznurkiem mozan ciagnac a nie mozna pchac, a jak sie cos wlozy do wody to bedzie mokre, czy tez jak taki fakt ze gdy Pan jest w Londynie to Panska lewa stopa tez. Poki co, nei ma jak komputerow nauczyc tego wszystkiego.

    Poza tym, co to jest owa „AI”?.. .Proponuje wziac najnowsza ksizake Norviga I Russeta. Polowa ksiazki to algorutmy pzreszukiwania na grafach, potem spora czesc to algorytmy obliczania prawdopodobienstwa zdarzen w zlozonych ukladach, To jest prawie cala AI jak na dzisiaj.

    Owszem, dale sie to-to znakomicie stosowac do zastosowan o ktorych pisalem, ale co to am wspolnego „intelektem”?

    Slynne „sieci neuronowe” (neural networks), owszem, byly motywowane pzrez badanai nad nerwami biologocznymi, ale niewiele maja z nimi wspolnego. Owe NN to zastosowanei twierdzenai Kolmogorowa o interpoalcji (czy aproksymacji, nei pamietam) funkcji udowodnionego w latch 30. Rozwiazuja problem ktore da sie sformulowac jako aproksymacja funkcji lub rozdzielanie zbiorow. W tej sytuacji MITowskei „czipy nerwowe” nei wydaja mi sie rewelacja, a tylko nowym opakowaniem

    Niewatpliwie dziedziny opisywane w ksaize Norviga I Rusella beda sei rozwijac intensywnie I znajdowac nowe zastosowania. Niewtpliwie owe zastosowania beda penetrowac obszary zarezerwowane dla intelektualnej dzialanosci czlowieka, I to beda penetrowac coarc bardziej. Na skutek czego ludzie beda glupieli coraz bardziej. Ale do sztucznego intelektu ten kierunek raczej nei doprowadzi.

    O granicach I mozliwosciach (a raczej niemozliwosciach) AI proponuje lekture ksiazki Huberta Dreyfusa pod tytulem What computers Still Can’t Do. To rozwiniecje glosnego artykulu Alchemy and Artificial Intelligence

    http://www.rand.org/content/dam/rand/pubs/papers/2006/P3244.pdf

    Inny sceptyk to Penrose, znany fizyk, ktory uwaza ze swiadomosc I inteligencja nei sa procesami obliczeniowymi.

    Podsumowujac: wydaje mi sie ze AI jako technologia bedzie sei rozwijala znakomicie, AI jako „sztuczny intelekt” ma pzred soba bardzo duga droge, o ile ta droga ma w ogole jakis koniec

    W kazdym razie, neizaleznie od wszystkiego, polecam ksiazke

    Mindless: Why Smarter Machines are Making Dumber Humans Hardcover
    by Simon Head

  14. @OlafSzewczyk. Generalnie chciałbym zwrócić uwagę, że spora część popularnej publicystyki naukowej współcześnie, to jednak infotainment i w związku z czym nastawienie na sensacjonizm jest całkowicie typowe i naturalne. Oczywiście że możliwości obliczeniowe układów przez wiele lat notowały spory wzrost ( prawo Moore) więc i poziom złożoności obliczeniowej algorytmów obecnie jest całkiem spory. Jednak bez zmiany paradygmatu nie da się już osiągnąć znaczącego przyspieszenia – prawo Moore zaczyna przestawać opisywać rozwój układów elektronicznych jakie znamy. Zakładając ( !!) że nie nastąpi tu jakaś rewolucja – wygląda na to że osiągamy z wolna pewną granicę techniki jaką stosujemy. A do „prawdziwego silnego AI” jeszcze bardzo, ale to bardzo daleko.
    Napisał Pan: „A ja jestem przekonany o inercji procesów cywilizacyjnych, na które jako jednostki nie mamy już praktycznie wpływu.” – i tu się całkiem z panem zgadzam. Gdzies w necie jest kapitalne video z odczytu Kevina Kely ( http://kk.org/thetechnium/) który przedstawia pogląd że rozwój techniki odbywa się jako kontynuacja ewolucji biologicznej. Z tej perspektywy maszyny które tworzymy i które nie mogą w żaden sposób istnieć bez nas, sa kolejnym rodzajem organizmów. O ile my egzystujemy w ekosferze Ziemi one egzystują w sferze technium – środowiska tworzonego przez nas – ludzi. Oczywiście wpływamy na ich rozwój do pewnego stopnia kształtując ich budowę tak by odpowiadała naszym potrzebom. Wszakże są aspekty ( prawa fizyki, zupełnie nieracjonalne fobie jak budowanie automobili w kształcie konia by zmniejszyć szok kulturowy związany z nowym wynalazkiem) które wydają sie umykać naszej uwadze i które sprawiają że bynajmniej nie wszystkie cechy maszyn są przez nas kontrolowane. Ta – zależnie od oceny niewielka lub nie – dowolność w ich budowie przypomina nieco swobodę z jaką natura kształtuje organizmy. na przyszły kształt maszyn wpływa wiec nie tylko praktyczna użyteczność ale _także_ nasze ekonomia, nasze gusty estetyczne, prawa fizyki, a nawet do pewnego stopnia przypadek. Hipoteza taka wydaje się nieco wymyślna, wszakże ja znajduję w niej coś głębszego. Proszę spojrzeć na swoje jelita 😉 Żyje w nich całkiem spora populacja bakterii – ładne kilka kilogramów, ilościowo ( licząc komórki) – jest ich więcej niz komórek organizmu człowieka. Kolonizują one jelita dzieci kiedy te sa w wieku niemowlęcym, utrzymują w jelitach warunki pozwalające funkcjonować organizmowi ( np. wytwarzają niektóre witaminy, trawią niektóre rodzaje jedzenia ). Z punktu widzenia tych bakterii, ludzie są homeostatami zapewniającymi niemal idealnie stabilne środowisko życiowe. Jesteśmy dla nich jak statek kosmiczny w którym podróżują przez wszechświat. Nie jest wykluczone, że nasza przyszłość będzie miała ten sam kształt. Będziemy jak te bakterie, zanurzone w olbrzymim organizmie techniki – technium – który będzie się – rozwijał równolegle do nas. Będzie zaspokajał nasze potrzeby – tak jak my zaspokajamy potrzeby naszych bakterii jelitowych – wszakże jego rozwój będzie także kształtowany przez inne czynniki – maszyny będą kolonizować przestrzeń kosmiczną, głębiny oceanów. Być może nigdy nie uzyskają niezależności dokładnie w takim samym sensie w jakim człowiek pozbawiony flory bakteryjnej – nie może funkcjonować. Wcale nie wiadomo czy ten wyższy poziom ewolucji będzie obdarzony inteligencją. Nie wiadomo czy to do czegokolwiek będzie mu sie przydawać. Przecież być może wystarczy że inteligentni będą ludzie? Taką symbiozę można sobie wyobrazić…

  15. @A.L. „Neizupelnei dobrze wiemy jak dziala.” – tu sie nie zgodzę. Nawet w wypadku algorytmów genetycznych czy sieci neuronowych – doskonale wiemy jak działa. Natomiast nie jesteśmy w stanie przewidzieć jaką trajektorie czy rozwiązanie w przestrzeni stanów taki układ zrealizuje. Tu pełna zgoda. Z drugiej strony ta cecha sama w sobie nie ma nic wspólnego z AI. nie wiemy jaki stan przyjmie w przestrzeni stanów zwykła kostka sześcienna, a nikt ja nie podejrzewa o tajemnicze knowania przeciw ludzkości ( a łatwo podać dowody na jej destrukcyjny wpływ na całe cywilizacje!).
    Oczywiście z powodu braku wiedzy o tym czym jest inteligencja oraz czym jest świadomość ( a sa to rzeczy jednak rożne i jedna może istnieć najprawdopodobniej bez drugiej, przynajmniej do pewnego stopnia) trudno jest przesądzać o tym jak mogłyby wyglądać silne AI. Jednak z przykładów które Pan podał ( algorytmy genetyczne, sieci neuronowe, rozmaite algorytmy z bazą wiedzy itp.) widać wyraźnie że dany stan AI określony jest nie tylko przez algorytm ale i przez wynik jego działania ( zatem nie sam program jest inteligentny ale program + stan który osiągnął budując swoją „bazę wiedzy” lub optymalizując pewne stany wewnętrzne, lub realizując proces losowy. ) Trochę to tak jak z człowiekiem, w przypadkach skrajnych nawet inteligentny człowiek może na skutek działań środowiska zostać pozbawiony cech ludzkich w tym i inteligencji zapewne. O ile jednak środowisko rozwoju człowieka jest zwykle bardzo standardowe ( rodzina, społeczność, kultura) o tyle środowiska rozwoju maszynowej AI sa albo doskonale identyczne albo bardzo różne. Brak jest pewnej koniecznej dla zbudowania bazy pod inteligentne działania bezpiecznej zmienności. Rozumiem że jest to pogląd kontrowersyjny ( łatwo zwrócić uwagę, że człowiek pozostaje inteligentny niezależnie od warunków w jakich wyrasta. Sądzę że nie jest to prawda. Wiadomo np. że osoba która nie nauczy się mówić w jakimkolwiek języku do 12 roku życia – nie będzie już mówić wcale. ). Wszakże uważam że kwestia potencjalnych możliwości rozwoju ( „algorytm” ) w wypadku inteligencji, jest nierozerwalnie związana z interakcją z otoczeniem, zaś przypisywanie inteligencji samemu algorytmowi a nie „stanowi programu jaki osiągnął po pewnym etapie nauki” jest co do zasady błędem. Nie wiem czy to szczególnie głęboki pogląd, sądzę jednak że warto go przemyśleć. .

  16. @kakaz: Ja komentowalem nastepujecy Panski tekst:

    „Proszę także zauważyć, że choć jest to co do zasady błąd rozumowania, dla większości ludzi inteligencja oznacza także pewien stopień intencjonalności i wolnej woli, czego trudno doszukiwać się w maszynie o której _wiemy_ jak działa.”

    Pomijajac zemantyke slowa „wiemy”, rzecz szla o „wolnej woli” I inencjonalnosci maszyny. Twierdze w dalszym ciago ze programy z polkj „AI” taka „intencjonalnosc” wykazuja. Z przycyn ktore wyluszczylem

    „widać wyraźnie że dany stan AI określony jest nie tylko przez algorytm ale i przez wynik jego działania ”

    Nei wiem co to jest „stan AI”. Faktem jest zas ze WYNIK programu jest okreslony pzrez strukture programu I dane, aczkolwiek, jak pisalem, dla tych samych danych mozna otrzymac rozne wyniki

    ” zatem nie sam program jest inteligentny ”

    Nei slyszalem o inteligentnych programach

    „tyle środowiska rozwoju maszynowej AI sa albo doskonale identyczne albo bardzo różne. Brak jest pewnej koniecznej dla zbudowania bazy pod inteligentne działania bezpiecznej zmienności”

    Nie rozumiem o co chodzi. Program planujacy produkcje w fabryce traktorow dziala w warunkach „bezpeicznej zmiennosci”

    „Wszakże uważam że kwestia potencjalnych możliwości rozwoju ( „algorytm” ) w wypadku inteligencji, jest nierozerwalnie związana z interakcją z otoczeniem”

    To jest „maslo maslane”. Wszystkie programy buduje sie po zo zeby komunikowaly sie z otoczeniem

    „zaś przypisywanie inteligencji samemu algorytmowi a nie „stanowi programu jaki osiągnął po pewnym etapie nauki” jest co do zasady błędem.”

    Jak wyzej. Nie kazdy algorytm AI jest uczacy sie. Jest sporo ktore sie nie ucza. Nei wiem co to jest „inteligentny stan”. Nei wiem co to jest „inteligentny program”. Chyba w sensie takim z jakim zetknalem sie na obronie pewnej parcy doktorskiej – „Inteligentny algorytm do Czegos Tam”

    Ja; Dlaczego ten program ejst „inteligentny”?
    Doktorant: Bo uzywa Neural Networks (NN)
    Ja: Ale NN sa uzyte do rozwiazania pewanego problem optymalizacji. Ten problem mozan rozwiazac bez NN, uzywalac jakiegos programu programwoania nieliniwego
    D: Tak
    Ja: Czy taki program bylby inteligentny?
    D: Nie
    Ja: Dlaczego?
    D: Bo by nei uzywal NN

    W sumie: mowienie o „inteligentnych programach” nei ma sensu bez zdefiniowanai co „inteligentny program” oznacza. A przy probach takiego zdefiniwania wkraczamy na bagnista sciezke ktora prowadzi do nikad.

    Przy okazji raz jeszcze: tzreba rozroznic miedzy „AI technology” – rozwojem I zastosowaniami pewnych rodzajow algorytmow niemumerycznych, a „strong AI” zmiezrajacej do stwozrenai sztucznego intelektu. O ile pierwsza ma sie dobrze, o tyle druga nei zostala nawet porzadnie zdefiniowana. Rosjanie na przykald unikaja terminu „iskustwiennyj intelekt”, raczej do „technicznej AI” stosuja termin „rieszatieli intelektualnych zadacz”. Co zreszta zwiazane jest z inna sytuacja: pzrez lata cale badania w zakresie AI byly zabronione, albowiem „stworzenie myslacej maszyny jest niemozliwe, albowiem maszyna nigdy nei bedzie miala swiadomosci klasowej”

  17. @kakaz: „Być może nigdy nie uzyskają niezależności dokładnie w takim samym sensie w jakim człowiek pozbawiony flory bakteryjnej – nie może funkcjonować. Wcale nie wiadomo czy ten wyższy poziom ewolucji będzie obdarzony inteligencją. Nie wiadomo czy to do czegokolwiek będzie mu sie przydawać. Przecież być może wystarczy że inteligentni będą ludzie? Taką symbiozę można sobie wyobrazić…”

    Wiele osob tak sobei przyszlosc wypbraza. Proponuje lecture ksiazek Moravca (Hans Moravec), znanego specjalisty of robotow.

    Problemem dyskutowanym jest jak ta „otoczka technologiczna” bedzie inteligentna I w jakim sensie. I czy w pewnym momencie ne stwierdzi ze „bakterie ludzkie” sa miepotzrebne.

    Firm Matrix sie przypomina…

  18. @A.L. – podzielam Pana wątpliwości – i znowu zaszło nieporozumienie bo ja piszą o „algorytmie i stanie programu” pisałem o _silnej AI_ Jaśniej wyłożona teza brzmiałaby tak: podoba mi się pogląd że _silna AI_ będzie powstawała jako wynik procesu uczenia ( trudno określić jakiego rodzaju) i że wynik takiego procesu będzie pewnym działającym układem realizującym jakieś funkcje algorytmiczne na danych powstałych w procesie uczenia. Specyfika maszyn jest taka że można ów stan zapisać, maszynę wyłączyć, potem stan skopiować, maszynę powielić, włączyć i mieć inteligentną kopię. W przyrodzie obejmującej organizmy żywe taki proces właściwie nie istnieje ( a przynajmniej go nie znamy). W moim mniemaniu inteligencję ( ową _silną AI_ ) należałoby w takim przypadku przypisać nie samemu oprogramowaniu ale owemu zespołowi „program + dane” i o tym usiłowałem ( mętnie) napisać.

  19. @A.L. „Problemem dyskutowanym jest jak ta „otoczka technologiczna” bedzie inteligentna I w jakim sensie. I czy w pewnym momencie ne stwierdzi ze „bakterie ludzkie” sa miepotzrebne.” – no więc właśnie zwracam uwagę na fakt że ta otoczka już istnieje, że ludzie są jej niezbędni, że w najbliższej przyszłości ( 100-200 lat!) nie ma żadnych szans na to by takimi nie byli, że inteligencja przydaje się ludziom, jest częścią egzystencji w kulturze i doboru seksualnego, a maszyny sa tych fragmentów bytowania właściwie pozbawione. Jednocześnie choć nasza opinia, co zrozumiałe, jest taka że maszyny to twory naszego działania, zbudowane by spełniać nasze zachcianki, to sama ewolucja maszyn jest procesem nad którym nie panujemy wcale. W jakim sensie? Dokładnie w takim jakim nie panujemy np. nad wolnym rynkiem, ekonomią, notowaniami giełdowymi. Z jednej strony firmy powstają po to by się bogacić, zas notowania giełdowe są wynikiem decyzji gospodarczych właścicieli firm itp. Z drugiej strony to jak wygląda notowani w danym momencie jest de facto nie do przewidzenia, zaś dynamika tych procesów przekracza nasze zdolności opisu. Dokładnie tak samo wygląda sytuacja powiedzmy na rynku samochodowym. Niby projektujemy te samochody, ale przewidzieć jak będzie wyglądał samochód za 20 lat – nie sposób.

  20. @kakaz: Nie bylo dla mnie jasne ze Pana wypowiedz dotycza „strong AI”

    „Jaśniej wyłożona teza brzmiałaby tak: podoba mi się pogląd że _silna AI_ będzie powstawała jako wynik procesu uczenia ( trudno określić jakiego rodzaju) i że wynik takiego procesu będzie pewnym działającym układem realizującym jakieś funkcje algorytmiczne na danych powstałych w procesie uczenia”

    To dotyczy tez „technologicznej AI”. Jezeli sie nauczy NN czegos tam, to na ogol parametry NN zapisuje sie na dysku; gdy maszyne sie wylaczy I wlaczy, to te te dane sie sciaga I maszyna „umie” po wlaczeniu to samo co pzred wlaczeniem.

    Oczywiscie, „inteligentne” zdolnosci NN (pisze „inteligentne” w cudzyslowie) siedza I w algorytmie I parametrach ktorych sie NN nauczyl

    „że w najbliższej przyszłości ( 100-200 lat!) ”

    To jest bardzo ryzykowne stwierdzenie. Obawiam sie ze to nastapi szybciej. Czas w ogole plynie dosyc szybko, szybciej niz dawniej

    „że inteligencja przydaje się ludziom, jest częścią egzystencji w kulturze i doboru seksualnego, a maszyny sa tych fragmentów bytowania właściwie pozbawione.”

    Obawiam sie ze „inteligencja ludzka” nie jest jedynya mozliwa forma inteligencji. Jakei sa inne? Nie wiem. Ale obawiam sie ze wtloczenie ludzkiej inteligencji w maszyny bedzie mialo takki sam – czyli nijaki – skutek jak wtlamszanei „zachodniej demokarcji” do Iraku czy Afganistanu. To moze byc inteligencja zupelnie inna, operujaca na innych zasadach. Co wiecej, nei bedziemy w stanei poznac czy to w ogole jest inteligencja, tak jak nei potarfimy stwierdzic czy inteligentna jest an przykald stonoga. Przypomne jeszcze raz samoloty: kiedys wydawalo sie ze maszyny ciezsze od powietza beda trzepoatc skrzydlami, I maszyny nei trzepoczacej nei da sie zrobic. Tak smo, moze sie okazac ze „strong AI” nei tzrepocze skrzydlami – z inteligencja ludzka nei ma nic wspolnego

    Mozliwe ejst ze „wypaczkuje” inteligencja ltorej nei mzona bedzei zrozumiec ani z ktora nie bedzie mozna sie porozumiec, meidzy innymi dlatego ze nei bedzie ona takim porozumieniem zaintersowana. Cwiczenai logiczne w tej materii pzreprowadzal Stanislaw Lem; jedno ze stwierdzen ktore mi akurat przychodzi do glowy to to ze „ludzie nei czuja zadnej wdzeicznosci na przykald do wegorzy elektrycznych”. Bylo to w kontekscie wlasnie inteligencji, zarowno pzrerastajacej ludzka jak i obcej. Nie pamietam tytulu. Z serii przygod Ijona Tichego. No I jeszcze raz odsylam do Summa Technologiae. Tam jest wiecej takich cwiczen.

  21. @A.L. „To dotyczy tez „technologicznej AI”. Jezeli sie nauczy NN czegos tam, to na ogol parametry NN zapisuje sie na dysku; gdy maszyne sie wylaczy I wlaczy, to te te dane sie sciaga I maszyna „umie” po wlaczeniu to samo co pzred wlaczeniem.” – no tak, oczywiście. Wszakże jak wiadomo NN nie posiadają „szczególnych zalet” w zakresie _strong AI_ zaś otoczka tajemniczości wynikająca z kłopotów z interpretacją co tez oznaczają wewnętrzne parametry sieci ( wagi itp) w kontekście problemu który nauczyła się ona rozwiązywać buduje niezdrową fascynację jakoby NN były „modelem mózgu”, „miały rudymentarna inteligencję” a nawet „ślady świadomości” ( pamiętam jak ktoś opisywał proces destrukcji sieci polegający na wycinaniu jej połączeń i że wówczas sieć głupiejąc miała sie stawać kreatywna, walczyć o przetrwania a na koniec zamierać jak HAL z Odysei. Czytając to doniesienie niemal się popłakałem ze wzruszenia). wszakże każda sieć NN, także ta która ma _nieskończenie wiele połączeń_ realizuje pewien proces uśredniania z mniej lub bardziej skomplikowanym jądrem sumacyjnym ( w granicy – całkowym) i biorąc to pod uwagę, jest mniej lub bardziej jasne, że oczekiwać iż NN jest modelem mózgu, to to samo co twierdzić że jego działanie da sie opisać pojedynczą całką. Oczywiście należy odróżniać koncepcyjną nonsensowność NN jako modelu mózgu, od faktu że NN mogą przejawiać bardzo skomplikowaną dynamikę, która może prowadzić do skomplikowanych i nieprzewidywalnych działań.

    Na marginesie tej dyskusji warto jak sądzę rzucić taką uwagę. Temat „kim jesteśmy, skąd przychodzimy i dokąd zmierzamy” jest stary jak świat. Wypowiedzi na temat „czym jest istota człowieczeństwa” sa głośne od wieluset lat. Przyciągają uwagę i pozwalają budować karierę akademicka. Kwestia sztucznej inteligencji toczy się niejako na pograniczu tych pytań, a wzrost popularności tego zagadnienia w literaturze popularnej jest po prostu czymś całkowicie typowym, niczym nowym i zwyczajnie formą rozrywki. Na tematy te wypowiadali sie najwięksi filozofowie, a ja szczególnie cenię sobie to co miał do powiedzenia na ten temat Leibnitz ( wypowiadał sie o świadomości). Od dłuższego już czasu twierdzę, że każda epoka buduje koncepcyjne modele tzw. człowieczeństwa, świadomości itp. posługując się najmniej zrozumiałymi dla filozofów pojęciami techniki. W czasach od Platona do średniowiecza, człowieczeństwo lokowano w najmniej zrozumiałych elementach ludzkiego ciała – w wątrobie, sercu, w humorach płynących niezrozumiała maszynerią arterii. Rewolucja kartezjańska pozbawiła teologicznej tajemniczości systemy hydrauliczne ludzkiego ciała, sprowadzając je do roli szlauchów którymi przepływają niezbyt estetyczne płyny, toteż zaczęto szukać innych wyjaśnień. Całkiem spora cześć filozofów miała dostatecznie niskie wykształcenie techniczne by nie rozumieć mechaniki toteż natychmiast wybór padł właśnie na zegarmistrzostwo.I oto Leibnitz, znacznie inteligentniejszy i lepiej wykształcony niż większość mu współczesnych, miał okazję wyśmiać pomysł że umysł jest mechanizmem zegarowym i to pomimo oczywistych dowodów w postaci automatu szachowego Turka von Kempelena. Weszliśmy w wiek Oświecenia, a potem pary i Romantyzmu, edukacja znacząco sie polepszyła, wstydem było nie znać podstawowych praw mechaniki, toteż modelem działania inteligencji i świadomości stała sie maszyna parowa a w późniejszym okresie – elektryczność. Przypomnę ze Frankenstein – ta pierwsza sztuczna inteligencja – został uruchomiony dzięki działaniu maszyn elektrostatycznych i piorunów. Widać wyraźnie jakie wrażenie na współczesnych literatach robiły te wszystkie „Naukowe Pikniki” i „Parki Nauki Kopernik” jakie wówczas im pokazywano. Jeszcze na początku XX wieku polski pisarz Stefan Grabiński – opisywał lokomotywy obdarzone samo-pod-świadomością. Kolej była internetem tamtych czasów a głębokość doznania niezwykłości tej superinteligentnej ale bezdusznej techniki odcisnęła swoje piętno choćby w pracach Freuda który odkrył że kobiety miewają sny z parowozami w roli głównej i że ich śnienie ma szczególnie głębokie powody. Oczywiście to śmieszne że ktokolwiek widział w zegarku lub lokomotywie namiastkę modelu mózgu, musimy jednak uwzględnić że ludzie w dawnych czasach ulegali rozmaitym fobiom i nieracjonalnemu sposobowi myślenia. Na szczęście w XX wieku jesteśmy wolni od tych uprzedzeń, toteż nic dziwnego że nareszcie wypracowano skuteczne i całkowicie ścisłe modele inteligencji/świadomości. Pod koniec XX wieku czytałem opowiadanie SF w którym główni bohaterowie byli osaczeni przez połączona inteligencję kilku central telefonicznych. Jak widać nie wszyscy humaniści jeszcze odrobili lekcję ale juz pod koniec XX wieku i na początku XXI sprawa uległa całkowitej zmianie i znaczącej poprawie. I oto pojawia sie film Terminator w którym całkiem już prawidłowo maszynowo złowroga inteligencja ma postać mikrochipu który wystarczy włączyć do prądu a on już sam zadba o przejęcie władzy nad światem za pomocą sieci skynet którą sobie wykoncypował widać kiedy spoczywał wyłączony w sejfie ( tak, tak, najlepsze plany podboju świata powstają w więzieniu! ). No i widać wyraźnie że prawdziwa inteligencja to oczywiście zjednoczone moce obliczeniowe sieci, nie tylko NN ale najlepiej setek takich podłączonych. Oczywiście specjaliści będą narzekać że to nierealistyczne, a pan A.L. zasadnie podniesie że NN to po prostu pewna całkiem algorytmiczna konstrukcja. No ale czy ktoś uwzględnił…komputery kwantowe? Nie? NIE! A no właśnie. Sztuczna inteligencja to będzie sieć NN kwantowych komputerów. Zobaczycie! Za 5 lat!

  22. @kakaz: dobre 🙂

  23. @ kakaz 17 czerwca o godz. 9:45
    „Oczywiście że możliwości obliczeniowe układów przez wiele lat notowały spory wzrost ( prawo Moore)”
    Ano właśnie, jak brzmi to prawo? I czego dotyczy? Zauważyłem, że często je cytujemy ale rzadko mamy wystarczającą dyscyplinę aby je poznać w oryginale i zrozumieć jego znaczenie.

    „prawo Moore zaczyna przestawać opisywać rozwój układów elektronicznych jakie znamy.”
    Przepraszam, czego? „Układ elektroniczny” to jest np. dzwonek przy drzwiach. Albo latarka. Podświetlane jajcarskie okulary albo migajace światełkami obcasy dziecinnych bucików też mają w sobie wbudowane układy elektroniczne. Ja tam nie nadążam ze śledzeniem rozwoju kolejnych układów elektronicznych i ich zastosowań. Nawet mówiąc poważniej rozwój w „zasadniczych” klasach układów scalonych takich np. jak układy przekształcające energię jest bardzo szybki.

    A może chodzi tutaj o rozwój technologii układów scalonych?

    „Zakładając ( !!) że nie nastąpi tu jakaś rewolucja – wygląda na to że osiągamy z wolna pewną granicę techniki jaką stosujemy.”
    Taak? A jaką to technikę stosujemy? Planarną, czyli plus-minus dwuwymiarową, prawda? Trzeci wymiar dopiero w ostatnich latach zaczynamy „dotykać”. Ale niektórzy „technolodzy” wiedzą lepiej, że nie da się.
    Ale to tylko gadki-szmatki. Przepowiednie o granicach rozwoju miniaturyzacji technologii półprzewodnikowej to ja słyszałem już od moich wykładowców na studiach trzydzieści lat temu. Optyczne ograniczenia fotolitografii jak nas wtedy uczono postawią tamę na granicy 1 um szerokości bramki.

    Fizyczne granice, IMHO, postawi nie jakaś granica miniaturyzacji tylko zupełnie inne rzeczy. Połączenia wewnętrzne układu scalonego. Problemy chłodzenia. Oraz rzecz najważniejsza – koszty!

    Techniczna strona postępu (czyli prawo Moore’a rozumiane opacznie) jeszcze długo da sobie radę. Ekonomiczna strona (a więc poprawnie zrozumiane prawo Moore’a) postawi barierę nieopłacalności dalszej miniaturyzacji. Przynajmniej w typach układów scalonych powszechnego użytku.

    Nic nie stoi jednak na przeszkodzie aby arbitralnie podjąć decyzję – podobnie jak się to od tysięcy lat dzieje w przemyśle zbrojeniowym – że do diabła z kosztami! Nam zależy na rozwoju AI do tego stopnia, że zapłacimy za to każde pieniądze.

    I wtedy ja nie widzę technologicznych problemów w dalszym kroczeniu po dotychczasowej drodze jeszcze przez dobrych dwadzieścia, może dwadzieścia pięć lat. A dalej nikt nie wie, co będzie. Najpewniej już nie krzem.

css.php