Reklama
Polityka_blog_top_bill_desktop
Polityka_blog_top_bill_mobile_Adslot1
Polityka_blog_top_bill_mobile_Adslot2
Duch w maszynie - Blog Olafa Szewczyka Duch w maszynie - Blog Olafa Szewczyka Duch w maszynie - Blog Olafa Szewczyka

14.05.2014
środa

Czy roboty będą nas zabijać?

14 maja 2014, środa,

W dzisiejszej „Polityce” znajdą Państwo mój artykuł o lękach, jakie budzi wśród niektórych naukowców – patrz choćby Stephen Hawking, Stuart Russell, Max Tegmark, Frank Wilczek – perspektywa pojawienia się wśród nas myślących maszyn. Serdecznie zachęcam do lektury. Zagrożenie sztuczną inteligencją przez długi czas pozostawało tematem w oficjalnym dyskursie lekceważonym jako mrzonka, bajanie rodem z filmów i powieści fantastycznonaukowych. Życie jednak – na szczęście, na nieszczęście – dostarcza obecnie niemal z dnia na dzień coraz więcej dowodów na racjonalność zgłaszanych obaw. Mamy czego się bać i chyba w końcu dojrzewamy do otwartej na ten temat debaty.

Dziś zachęca do niej „Polityka”. Przedwczoraj laureaci Pokojowej Nagrody Nobla (w tym Lech Wałęsa) wystosowali apel o zakazanie autonomicznych robotów bojowych. „To niepojęte – piszą sygnatariusze – że istoty ludzkie wkładają swój wysiłek w konstruowanie maszyn zdolnych do samodzielnego zabijania ludzi, bez udziału człowieka”.

Wczoraj w Genewie rozpoczęła się z inicjatywy Organizacji Narodów Zjednoczonych konferencja poświęcona niebezpieczeństwom, jakie przyniesie pojawienie się na polu bitwy autonomicznych uzbrojonych maszyn.

Dobrze, że wreszcie coś do nas zaczęło docierać. Choć nie wiem, czy nie za późno. Mimo solennych zapewnień składanych przez rządy i wojskowych, że decyzję o otwarciu ognia zawsze będzie autoryzował człowiek, nie sposób tę gwarancję traktować poważnie. Jak piszę w „Polityce”, ta zasada nie ma racji bytu na polu bitwy. O tym, czy robot przetrwa w starciu z wrogiem, czy zostanie przezeń zniszczony, zadecyduje szybkość reakcji. Wygra ten, kto pierwszy otworzy ogień. To eliminuje człowieka z łańcucha decyzyjnego. Zanim powolna białkowa istota oceni sytuację i wyśle zdalnie rozkaz, zanim ten sygnał dotrze do robota – ów będzie już dymiącym wrakiem.

Rozwój zdarzeń jest już dziś oczywisty. Ten, kto pierwszy się wyłamie i obdarzy roboty bojowe autonomią, wymusi na pozostałych analogiczny ruch. Zgrzytając zębami, damy maszynom prawo do zabijania nas. Szaleństwo? Tak, ale nie pierwsze przecież w naszej historii.

Miejmy nadzieję, że publiczna debata o zagrożeniach związanych z pojawieniem się samodzielnych robotów do zabijania zapowiada rozpoczęcie wreszcie analogicznej dyskusji o zagrożeniach związanych z pojawieniem się superinteligentnych komputerów – w końcu nie w niszach środowisk uniwersyteckich, ale na otwartym forum, z aktywnym udziałem polityków. Jak ostrzegają Hawking et consortes, stworzenie bytów maszynowych przewyższających nas inteligencją może się okazać największym błędem ludzkości. Naszym błędem ostatnim.

Reklama
Polityka_blog_bottom_rec_mobile
Reklama
Polityka_blog_bottom_rec_desktop

Komentarze: 45

Dodaj komentarz »
  1. Szanowny Panie!
    Nie wiem, co Pan pisze w gazecie, ale aktualnie istnieje nawet poważniejszy problem. Jak niektórym już wiadomo NSA zbiera wszystkie możliwe dane i metadane. Podsłuchuje i podgląda wszystko, co jest możliwe do podejrzenia. Tak informacje polityczne, wojskowe i gospodarcze. Najnowsze informacje Snowdena to zdecydowanie potwierdzają. Niestety zadyma Ukraińska wygląda na dym, którego celem jest ukrywanie tego.
    Dzisiaj właśnie wyszło, że automatyczna analiza metadanych umożliwia umieszczenie podpadających pod schematy (budowane automatycznie) całkowicie bez udziału człowieka na listach nie tylko do szczegółowego podsłuchu ale i do automatycznego odstrzału czyli LIKWIDACJI. Oczywiście zaprzeczenia są.
    Ale schemat może być taki: Automat rejestruje moje połączenia telefoniczne, w przypadku podejrzanego schematu, jestem wrogiem, umieszcza mnie na liście do likwidacji przekazywanej automatycznie do jednostki bezzałogowych obiektów. W nocy dron automatycznie mnie odnajduje i koniec mojego wpisu. Nikt nic nie widział.
    A tu myślą, że przyjdzie Putin i trzeba go będzie karmić. Śmiech.

  2. Niestety, jak wykazuje historia, wszelakie zabranianie rozwoju technologii I nauki skutkuje niczym. Co moze zostac wymyslone, zostanie wymyslone, Co moze zostac zrobione, zostanie zrobione. Co moze zostac wyprodukowane, zostanie wyprodukowane. Zadne zakazy nic nie pomoga.

    Ze ludzkosc moze sie pzrez to skonczyc? Moze. Moje prywatne zdanie jest takie ze taki jest wlasnei cel ewolucji. Nastepny etap ewolucji nie bedzie oparty na wodzie I weglu.

  3. „Naszym błędem ostatnim.”
    Wlazła mrówka na słonia i krzyczy: „idziemy!”
    Polski dziennikarz czuje się częścią ludzkości.
    Kłopot w ty, że jest tej ludzkości częścią niepiśmienną.
    To tak jakby Murzyni przeznaczeni do odłowu w Afryce protestowali przeciwko sytemowi niewolnictwa w USA.
    Proszę zaprotestować przeciwko amerykańskim lotniskowcom.
    Jeden taki bez żadnego kłopotu poradzi sobie z „potęgą militarną” całej Nowej Europy. A mają ich 11.
    Proszę zaprotestować przeciwko bombie atomowej.
    Jeden taki na „E” też protestował.
    Zaraz potem, gdy do jej zbudowania zachęcał.

    Sam jestem pacyfistą. Ale też realistą. Protesty mrówek czy niewolników są funta kłaków nie warte. Najpierw należy coś sobą prezentować aby nasz głos się liczył. W jakiej dziedzinie Polska liczy się na świecie? Chyba tylko jako miliony konsumenckich gęb i miliony imigranckich rąk. Na tle podobnych im miliardów gęb i rąk reszty świata raczej słabo się wyróżniające.

  4. Reklama
    Polityka_blog_komentarze_rec_mobile
    Polityka_blog_komentarze_rec_desktop
  5. Zapomnialem zarekomendowac ksiazke:

    Our Final Invention: Artificial Intelligence and the End of the Human, by James Barrat

  6. @zza kaluzy: „Najpierw należy coś sobą prezentować aby nasz głos się liczył. W jakiej dziedzinie Polska liczy się na świecie?”

    Niewatpliwie, ma Pan racje, ale Poanu sie wszystko z tym samym kojarzy

    Gospodarz pisal o problemach LUDZKOSCI a nei POLSKI. I nei o wplywie Polski na ludzkosc. Pisal o problemach ogolnych

    Niech Pan se poluzuje troche… Z faktu ze Polska nei ma „fabu” Intela nei wynika ze Poalcy nei moga sie wypowiadac na ogolne tematy dotyczace WSZYSTKICH

  7. @ZWO „automatyczna analiza metadanych ”

    Co to sa „metadane” I czym sie roznia od „nie metadanych”? Tylko o merytorycna odpowiedz poprosze a nei cytwoanei Snowdena

  8. A.L. 14 maja o godz. 19:29
    „publiczna debata o zagrożeniach związanych z pojawieniem się samodzielnych robotów do zabijania” oczywiście może i pewnie będzie miała miejsce.
    I oczywiście, że „Poalcy moga sie wypowiadac na ogolne tematy dotyczace WSZYSTKICH”.
    Tak jak dziecko może wypowiedzieć się na temat swojej ochoty na spożycie łyżeczki tranu, którą właśnie mamusia mu pakuje do buzi.
    Miliony dzieci się wypowiadają, jak świat długi i szeroki.
    I piją tran.

    Ja doskonale rozumiem ludzi zarabiających na życie pracą w środkach masowego przekazu czy np. w edukacji albo w polityce. Oni będą dyskutować ad nauseam o czymkolwiek, co tylko im zapłaci za dach nad głową. Zwykle bez pytania o sens takich dyskusji bo wszystkim tym osobom chodzi tylko o gonienie króliczka.

    Sensownie o autonomiczych robotach mogą dyskutować ci, którzy są w stanie je wyprodukować. Reszta tylko bije pianę i bezsilnie patrzy na lotniskowiec, któremu spodobało się wpłynąć do portu.

  9. Mam jeszcze parę lat do przeżycia i ewolucyjny los ludzkości g.łównie mnie nie obchodzi. Natomiast interesująca jest dzisiejsza wiadomość, że do obsługi czterech bezzałogowych dronów potrzeba 250 ludzi. To wyjaśnia, dlaczego w Niemczech stacjonowała przeniesiona w marcu na Ukrainę jednostka wywiadowcza z kilkunastoma dronami. Co jednak daje tę radosną możliwość, że dzisiaj do okupacji całego kraju wcale nie jest potrzebna duża armia, wystarczy 300 miłujących pokój żołnierzy NATO i sieć komputerowa do podsłuchu. A potem proszę się nie dziwić małej innowacyjności tej całej przestarzałej Europy, która jakoś zawsze spóźnia się o tydzień ze zgłoszeniem patentu.
    Tylko poziom życia AL i „zza kału.” podnosi się przez to za każdym razem niesłychanie co daje prawo do patrzenia z góry na europejskich łachów jak ja. Oczywiście jako średnia kraju, nie osobiście.
    P.S. Historia pokazuje, że można rozbić molochy jak Standard Oil i zmienić ewolucję kraju na 100 lat. Czyli nie jest aż tak źle, tylko potrzeba do tego Roosevelta.

  10. @ZWO: „Tylko poziom życia AL i „zza kału.” podnosi się przez to za każdym razem niesłychanie co daje prawo do patrzenia z góry na europejskich łachów jak ja. Oczywiście jako średnia kraju, nie osobiście.”

    Rozumiem ze to Panska odpowiedz na moje pytanie o „metadane”?…

  11. @zza kaluzy: „Sensownie o autonomiczych robotach mogą dyskutować ci, którzy są w stanie je wyprodukować”

    O SOCJALNYCH aspekatch technologii moze dyskutowac KAZDY. Bo kazdego etcnologai dotyka. Wiec prosze nie probwoac nakaldac ludziom kaganca.

  12. A.L. 14 maja o godz. 20:03
    Jak panu tran smakował? Ja – podobno – „lubiłem” go z posolonym chlebem.

  13. @zza kaluzy: „Jak panu tran smakował? Ja – podobno – „lubiłem” go z posolonym chlebem”

    Mialem Panu odpowiedziec, ale to by bylo nieuprzejme.

    A MERYTORYCZNIE w sparwach poruszonych pzrez Gospodarza ma Pan cos do powiedzenia? W koncu, meisza Pan w kraju ktory ma 11 lotniskowcow, wiec powinien sie Pan czuc upowazniony

  14. Przeczytalem artykul Radaktora Szewczyka. Znakomity artykul, co nei znaczy ze nei mam zastzrezen. Polecam wszystkim.

    Neistety, nie mam czasu komentowac; postaram sie to zrobic pozniej

  15. Przeszło 70 lat temu problem ten przemyślał i nawet rozwiązał Isaac Asimov. Jak widać, nie wystarczyło. Zatem nie świadomości tu brakuje, nie intelektu i nie oświecenia, ale… no właśnie: czego?

  16. Witam,

    @eliminacja człowieka z łąńcucha decyzyjnego

    W pełni autonomiczne roboty to jednak wciaż kwestia przyszłości, ale już wykorzystanie współczesnych środków bywa mocno niepokojące – np. dronów. Mark Manzetiii ciekawie opisuje proces przesuwania granic dopuszczalności eliminacji człowieka za pomocą dronów przez CIA – od gorących dyskusji jakie kiedyś toczyły się wobec działań wobec terrorystów po wypadki zamachów na obywateli amerykańskich. Bez postępowania sądowego – tylko w drodze autoryzacji przez przełożonych.

    @ zautomatyzowanie pola bitwy

    Kilka lat temu w Wyborczej można było przeczytać bardzo ciekawy wywiad z polskim żołnierzem strzelcem wyborowym. Powiedział m.in., że samo pociagnięcie za spust to odruch, pamięć mięśniowa. Odbywa się wręcz poza świadomością. Wydaje się, że taki żołnierz niewiele sie już różni od autonomicznego robota.

  17. @MC: „Przeszło 70 lat temu problem ten przemyślał i nawet rozwiązał Isaac Asimov”

    Asimove nicxego nie rozwiazal. Wrecz pzreciwnie, pokazal jak jego, na pierwszy wglad oczywiste „Trzy Prawa Robotyki” moga prowadzic do zachowania robotow nie takiego jak trzeba, a szkodliwego. Asimov zwrocil uwage na paradoksy owych praw, ale daleki byl od rozwiazania czegokolwiek

  18. A.L. 14 maja o godz. 20:38
    „A MERYTORYCZNIE w sparwach poruszonych pzrez Gospodarza ma Pan cos do powiedzenia?”
    Jak już to wyjaśniałem, ja jestem durny technolog a nie filozof.
    Ja umiem zrobić żyroskop. I przyspieszeniomierz. Magnetometru nie robiłem. Jak filozof czy etyk będzie oceniał decyzje wojskowego czy polityka, który użyje poskładane do kupy produkty mojej pracy to jest problem, który mnie mniej zajmuje. A już całkowitą śmiesznością jest rozważanie takich problemów przez ludzi, którym bliżej do bycia celami aniżeli decydentami. Proszę zapytać się Gospodarza ilu polskich maturzystów opanowało macierz obrotów. Bez niej ciężko drona w powietrze wypuścić, wie pan.

  19. @zza kaluzy: „A już całkowitą śmiesznością jest rozważanie takich problemów przez ludzi, którym bliżej do bycia celami aniżeli decydentami.”

    Mnie nie smiesza tacy ludzie. Wrecz pzreciwnie, mam dla nich szacunek. Uwazam bowiem ze znacznie lepiej „tracic czas” na takie rozwazania niz na ogladanie serialu „M jak milosc”

    Poza tym nei bardzi widze najakiej podsatwe Pan cche wprowadzic reglamenatcje mowienia I myslenia. Orwella sie Pan naczytal?…

    ” Proszę zapytać się Gospodarza ilu polskich maturzystów opanowało macierz obrotów. Bez niej ciężko drona w powietrze wypuścić, wie pan.”

    Absolutnei da sie drona wypuscic. Z tego samego powodu dla ktorego kierowca Formuly I nie musi miec doktoratu z fizyki. Nei mowiac o Cioci Kloci ktora tez, bez macierzy obrotow, prowadzi swoj samochod

  20. A.L. 15 maja o godz. 2:50
    Jaki jest przelicznik okien, szafek kuchennych albo foteli samochodowych (sztandarowych polskich produktów eksportowych) na drony? Czy ciocie Klocie będzie stać aby drony sobie kupić? A nawet jak je będzie stać, to czy zawsze sprzedawca drona zechce ciociom Klociom sprzedać? A nawet jak sprzeda, to jakim cudem ciocie Klocie sprawdzą, co tam sprzedawca wsadził do łebka takiego drona? Jak rozumiem ciocia Klocia dopiero w momencie poszczucia dronem swojego sąsiada dowie się, że producent drona bardziej jednak lubi owego sąsiada aniżeli ciocię Klocię…. i może być niewesoło…
    A to wszystko jeszcze na dłuuugo przed skonstruowaniem prawdziwie autonomicznych dronów.

    Ja tam wolałbym psa obronnego samemu hodować i samemu go tresować. Tym bardziej, że nie umiem zajrzeć wytresowanemu przez kogoś innego psu do mózgu. Zanim psem poszczuję, wolałbym mieć pewność, że pies ugryzie szczutego a nie szczującego.

    Proszę mi pokazać polską instytucję zdolną do weryfikacji hardware i software zakupionego sprzętu. A już szczególnie takiego o zastosowaniach wojskowych, co to ma „zabijać”. Składanego do kupy z układów scalonych celowo projektowanych tak, aby ulegały autodestrukcji w przypadku prób testowania ich.
    Jak przyjdzie co do czego to cioci Kloci może zostać kij od szczotki do obrony. „Kupne” drony zaśpią w namiocie i na zbiórkę nie wyskoczą.

    Polacy niech się nie przejmują tym wszystkim, nie zawracają sobie głowy koniecznością zdobywania i budowania lokalnych kompetencji, kupują drony jak francuski ser i polegają na hodowlanym obrońcy z rodowodem. Wytresowanym w Izraelu czy w USA. Good luck.

    P.S.
    Nie podoba mi się to, że Lewandowski szasta pieniędzmi i kupuje takie strasznie drogie auta. Bardzo głośno sprzeciwiam się tym jego głupim zakupom. No to sobie podyskutowałem i wyraziłem opinię.

  21. @ zza kałuży 15 maja o godz. 6:51
    „Proszę mi pokazać polską instytucję zdolną do weryfikacji hardware i software zakupionego sprzętu.”

    Wojskowa Akademia Techniczna
    Politechnika Warszawska
    WB Electronics
    – może by wystarczyła któraś z tych?

  22. @zza kaluzy: „Polacy niech się nie przejmują tym wszystkim, nie zawracają sobie głowy koniecznością zdobywania i budowania lokalnych kompetencji, kupują drony jak francuski ser i polegają na hodowlanym obrońcy z rodowodem. Wytresowanym w Izraelu czy w USA. Good luck.”

    Prosze Pana, drony produkuje sie w Polsce. Niech Pan sobie pogogluje na Polskie drony.

    Zrobilem to zreszta za Pana:

    *http://www.wprost.pl/ar/391500/Drony-z-Polski-podbijaja-swiat/

    „Pierwszy milion zarobił dzięki szwedzkiej armii, miażdżąc takich potentatów jak Ericsson i Saab. Piotr Wojciechowski z małej firmy pod Warszawą stworzył giganta zbrojeniówki, u którego zakupy robi wojsko Indii, Szwecji i USA. Jego najnowszym hitem eksportowym są bezzałogowe statki latające, które już patrolują niebo nad Afganistanem”

    Poza tym, ja sie juz zgubilem o co Panu chodzi. Pan zabranei Polakom dyskutowac o robotach, Pan zabranie Polakom tego, Pan zabrania Polakom owego. Jakos tak Pan uwaza ze Polacy to sam idioci a Polska to takie Burkina Faso.

    Owszem, Polska nei ma „fabu” Intela, ale jednak tu I owdzie jakies osiagneicia intelektualno pzremyslowe sei zdarzaja. Na przykald takie

    *http://ammono.com/

    To nei moja dzialka, ale z mojej dzialki tez sie zdarzaja. Ja akurat znam ludzi stad

    *http://www.imio.pw.edu.pl/pl/o_imio.html

    I gwarantuje Panu ze sporo amerykanskich uniwersytetow nie mogloby moglby tym ludziom podskoczyc. Nawet do piet.

    Poza tym, chcialem zauwazyc ze Gospodarz rozpoczal dyskusje na temat swojego artykulu, a ow artykul jest na temat AI I wplywu autonomicznych robotow na spoleczenstwo. Jezali ma Pan cos na ten temat do powiedzenia, to z checia sluchamy. Jezeli nie, to neich Pan idzie propagwoac wyzszosc Ameryki gdzie indziej. Albowiem to o czym Pan pisze jest nie an temat. Nie mowiac o tym ze sie Pan powtarza
    P.S.
    Nie podoba mi się to, że Lewandowski ..

    Ja tu wystepuje jako A.L. Dopoki Pan nei poda swojego pelnego nazwiska, uprzejmie prosze aby Pan zechcial nie wycierac mojego

  23. Nie mam wątpliwości, że takie roboty powstaną. Niestety na nic są tutaj lamenty Hawkinga i spółki. Jeśli nie wprowadzą ich tzw. państwa demokratyczne to zrobią to wcześniej czy później Chiny, Rosja, Korea Płn itp. i cała reszta będzie się musiała dostosować w tym wyścigu zbrojeń.

  24. A.L. 15 maja o godz. 8:02
    „Ja tu wystepuje jako A.L. Dopoki Pan nei poda swojego pelnego nazwiska, uprzejmie prosze aby Pan zechcial nie wycierac mojego”
    I ja to szanuję. Chodziło mi o szeroko opisywane i komentowane samochody p. Roberta Lewandowskiego, znanego piłkarza.
    Uważam, że alurat taki sam sens jest komentowania przeze mnie sposobów, w jakie zamożny piłkarz wydaje swoje pieniądze jak i dróg rozwoju czyichś dronów. W obu przypadkach moje zdanie waży tyle samo.

  25. A.L. 15 maja o godz. 8:02
    „Prosze Pana, drony produkuje sie w Polsce. (…) miażdżąc takich potentatów jak Ericsson i Saab”
    Fajny język. 😉

    Ja tam nie wiem, komu wierzyć. Skoro w Polsce wszystko się produkuje to po co te samoloty z USA i drony z Izraela?

    **http://www.polskieradio.pl/5/3/Artykul/997922,Kody-zrodlowe-zagrazaja-bezpieczenstwu-polskiej-armii

    **http://www.altair.com.pl/news/view?news_id=6910

    Gdzie indziej jednak się martwią i próbują coś robić:

    **http://www.ndia.org/Divisions/Divisions/Logistics/Documents/Past%20Meetings%20and%20Projects/2012/TFP%20Outreach%2020120120a.pdf

    **http://www.dmea.osd.mil/trustedic.html

  26. Proszę mi wskazać armie na świecie które aktywnie używają dronów i rozważają wyposażenie ich w autonomiczne systemy ofensywne? „że istoty ludzkie” – istoty ludzkie? Czy amerykanie? Bo wiem Pan – cały świat uczestniczy w pewnej kulturze, amerykanie zas uczestniczą wyłącznie we własnej. W USA jak się okazuje uchwalane sa prawa zabraniające bezdomnym przebywanie na terenie publicznym – co prawda nie wolno nikogo z niego przegonić, ale wolno mu zakazać przebywać tam np. po zmroku, albo wolno mu zabronić położenia plecaka na trawie na dłużej niż 2 godziny itp. Mozna zabronić lub obciążyć wielkimi opłatami parkowanie kampera na terenie publicznym i na koniec można takiego człowieka sprywatyzować w więzieniu jako darmowa siłę robocza.
    USA wydają na brojenia więcej niż cała reszta świata razem wzięta. Nie ludzkość – USA wydają.
    USA użyły broni masowej zagłady przeciwko ludności cywilnej miast – kobietom, dzieciom, starcom.
    USA prywatyzują więziennictwo przekształcając je w dochodowy biznes będący de facto legalizację niewolnictwa.
    USA inwigilują komunikację na całym świecie i szpiegują wszystkich – a zwłaszcza swoich sojuszników.

    Proszę nie pisać „ludzkość”. Bo za 20 lat będzie pan między tymi których będą oskarżać że odwracali oczy i pisali ogólniki…

  27. „Poza tym, ja sie juz zgubilem o co Panu chodzi. Pan zabranei Polakom dyskutowac o robotach”
    Ależ proszę bardzo!
    Ja tylko zwracam uwagę, że „publiczna debata” w wykonamiu publiki, która nie wybiera spośród siebie osób decydujących o kierunkach rozwoju i zastosowaniach, czy to w postaci naukowców, wojskowych czy polityków, ma tyle samo sensu co debata polskich kibiców piłki nożnej na temat wydawania zarobionych w niemieckiej lidze pieniędzy Lewandowskiego czy trenerskich kompetencji pana Kloppa.

    Aby być poważnym dyskutując o piłce nożnej po polsku dobrze mieć wygrywającą polską drużynę. Np. taką jak za Górskiego. Inaczej każdy kibic piłki nożnej na świecie nas wyśmieje pytając się czy Polska w ogóle ma narodową drużynę do gry w nogę?

  28. MC 15 maja o godz. 7:04
    „- może by wystarczyła któraś z tych?”
    A która konkretnie z tych instytucji wykonuje reverse engineering współcześnie zrobionego układu scalonego jako część procesu akceptacji zakupu nowego elementu uzbrojenia dla polskiej armii? Jak inaczej można zapewnić polską 100% kontrolę nad tym uzbrojeniem?
    Czy może Polska po prostu postanowiła mieć zaufanie?

    Raporty WikiLeaks o handlu wymiennym między Izraelem a Rosją na którym to handlu stracii klienci tych producentów uzbrojenia, czyli Iran i Gruzja to była prawda czy kompletna bzdura?

  29. @zza kaluzy: „Ja tylko zwracam uwagę, że „publiczna debata” w wykonamiu publiki, która nie wybiera spośród siebie osób decydujących o kierunkach rozwoju i zastosowaniach, czy to w postaci naukowców, wojskowych czy polityków, ma tyle samo sensu co debata polskich kibiców piłki nożnej na temat wydawania zarobionych w niemieckiej lidze pieniędzy Lewandowskiego czy trenerskich kompetencji pana Kloppa”

    I tu akurat myli sie Pan gleboko. Moze jednak inzynierowie powinni na studiach studiowac filozofie I inne nauki humanistyzne? Zreszta, sam Pan pisal ze ma „klapki na oczach”

  30. @kakaz: Ma Pan racje. Powinnismy sie uczyc wolnsoci nie od USA, a od Rosji, Chin, Korei Ponocnei I ewentualnie Kuby

  31. I tak, Panie Redaktozre, dyskusja zeszla z merytorycznej an Te Tematy Co Zawsze: @zza klauzy o nedzy poslkiego przemyslu I inelektu oraz Wybitnych Osiagnieciach Nauki Amerykanskiej I Przemyslu, @kakaz o amerykanskim imperializmie.

    Mialem napisac komentarz do artykulu Pana Redaktora, ale niestety, nie w tym towarzystwie. Wysle Panu prywatnie. Na adres Polityki.

    Jakkakolwiek dyskusja merytoryczna w polskim internecine wydaje sie niemozliwa. Ja sie wycofuje

  32. Poopowiadajmy sobie zatem bajki.

    Na ziemi rozlokowano przygotowujacą się do ataku, brygadę pancerną niebieskich. Wysoko na niebie przyleciały bombowce i zbomardowały tę brygadę. Lotnicy powiedzieli ooops, sorry, bo to też byli niebiescy i tylko coś im się pokićkało z celowaniem i z określaniem swojego miejsca na niebie w efekcie czego zmasakrowali swoich pobratymców.

    Na ziemi rozlokowano dywizję piechoty niebieskich przygotowująca się do ataku. Kilka baterii artylerii niebieskich w zbożnym celu wykonania przygotowania artyleryjskiego zamiast niedobrych czerwonych ostrzekało pozycje swojej piechoty i zamieniło ją w mielonkę.
    Artylerzyści powiedzieli, że im też jest sorry.

    Bajki? Nie, to się zdarzyło w historii wojen całą masę razy. Swoi zabijali swoich? Oczywiście! Czy to tego potrzeba akurat autonomicznych robotów? Oczywiście, że nie potrzeba. Człowiek jest jak najbardziej do tego zdolny i udowodnił juz to całą mase razy.

    W ataku na WTC z 9/11 zgineło 3 tys ludzi i z tego powodu rozpętano 2 wojny, w których zginęły i zostały ranione miliony ludzi.
    W czasie trwania tych wojen Amerylkanie sami swoimi samochodami zabijali się w tempie 1 najelevena miesięcznie i produkowali miliony rannych. I nikt nie bombardował fabryk samochodów ani nie zabijał kierowców.

    A ztem nikomu nie chodzi o liczbę trupów ale o INTENCJE zabijajacego.

    Tak długo, jak długo ludzie zabijają się sami, jest wporzo. Setkami milionów w historii ludzkości, ale dalej jest wporzo. Bo ludziom wolno zabikac ludzi. Jak roboty się za to samo wezmą to będzie BE!

    Niebieskim wolno popełnić błąd i rozmazać po ziemi tysiące niebieskich kolegów. Bo oni nie mieli ZŁYCH INTENCJI. Oni tylko się machnęli o kilkaset metrów czy kilometrów.

    Stawiam tezę, że jak roboty dorównają ludziom inteligencją to pierwszą rzeczą jaką zrobią będzie ZADEKLAROWANIE DOZGONNEJ PRZYJAŹNI I MIŁOŚCI DO RODU LUDZKIEGO.

    Oraz swoich, robocich znaczy się, NAJLEPSZYCH INTENCJI.

    I od tej pory ludzkość pozwoli robotom mordowac się bez żadnych ograniczeń. Bo przecież „nie miały złych intencji!” One tylko przez pomyłkę, no wiecie, nie ze złej woli.

    Tak jak ludzie – ludzi przez tysiąclecia.

    Nie martwmy się zatem czysto ludzką, wewnątrzgatunkową agresją. Z nią już sobie poradziliśmy. Martwmy się inteligentnymi robotami. A przynajmniej od czasu, kiedy uda im się nas przekonać, że mają TYLKO I WYŁĄCZNIE DOBRE INTENCJE.

  33. nie ma czegos takiego jak sztuczna inteligencja, to tylko anagram z literatury sf. jesli ktos cokolwiek zna sie na tym wie. ale temat jest chodliwy dobry da facetow wiec dyskutujcie i klucie sie. si nie powstanie znienacka i nie jest pewne ze kiedykolwiek powstanie, brak tzw sieci 3.0 jest teraz przykladem wychamowania rozwoju technologicznego. a takie algorytmy moga podpowiedziec jaki abonament wybrac z oferowanych odpowiedzi dla naszych oczekiwan. tego nie ma.pewne elementy autonomicznosci dzialan maja systemy obrony przeciwlotniczej na statkach to karabiny gettlinga, ale to znane jest od czasow wynalezienia radarow. bron ofensywna nie ma takiej specyfiki jak autonomicznosc. kazdy program kompuerowy robi to tylko do czego zostal napisany. w procesorze sa tylko obliczenia matematyczne, zadnej inteligencji. zero, nic wiecej. tylko rachunki.

  34. Status of the Convention
    1997 Convention on the Prohibition of the Use, Stockpiling, Production and Transfer of Anti-Personnel Mines and on Their Destruction (1997 Mine Ban Treaty)

    States not Party

    Armenia
    Azerbaijan
    Georgia
    Kazakhstan
    Kyrgyzstan
    Uzbekistan

    Russian Federation

    China
    India
    Sri Lanka
    Pakistan
    Nepal
    Mongolia
    Myanmar
    Lao PDR
    Korea, North
    Korea, South
    Vietnam

    Singapore

    Micronesia

    Cuba

    Lebanon
    Egypt
    Syria
    Israel
    Palestine
    Iran
    Bahrain
    Saudi Arabia
    Oman
    United Arab Emirates
    Libya

    Morocco

    Tonga

    United States

  35. @Bever
    Ach te chamy. Wszędzie tylko chamy. Cham chama chamem… Nawet przy hamowaniu.

  36. Żeby nie było tak tragicznie i trochę na temat. Pytanie do wszystkich:
    Właśnie wchodzą do użytku samochody-roboty. Wyobraźmy sobie, że przed taki samochód wpada pieszy i jedyne wyjście to unik. Niestety po lewej i prawej stronie jadą motocykliści. Jeden w hełmie, drugi bez hełmu. Szansa przeżycia w hełmie jest większa. Czy software powinno oszczędzić tego w hełmie czy tego bez hełmu, nagradzając jego głupotę i łamanie prawa?

    To są chyba nam bliższe problemy niż NSA, która zdaje się tutaj nikogo nie dotyczyć.

  37. ZWO 16 maja o godz. 16:09
    „Czy software powinno”

    „i trochę na temat.”

    Wydaje mi się, że ja pisałem dokładnie na ten sam temat. Może trzeba jaśniej. Pisałem na temat zachowania zdroworozsądkowych proporcji pomiędzy „tym co jest teraz” a „tym, co nadchodzi”.
    Ja pisałem o tym, że w porównaniu do efektywności wzajemnego mordowania się ludzi tyle już razy udowodnionej w historii naszego gatunku martwienie się zabijającymi ludzi robotami, przynajmniej na początku, ale zanim jakikolwiek taki robot powstał jest przedwczesne.

    Proszę usunąć zagrożenie bronią jądrową. Doprowadzić traktat i minach i bombach kasetowych czy broni chemicznej i biologicznej do powszechnej akceptacji. Wyeliminować zgony spowodowane alkoholizmem i paleniem papierosów. Rzeczywiście zatroszczyć się o zmniejszenie zgonów i zranień powodowanych przez wypadki drogowe gdzie kierowcą jest człowiek.

    Pytanie „czy software powinno” po którym następuje niby zabawny sofizmat jest dziecinne, żeby nie napisać głupiutkie.
    Dlaczego głupiutkie?
    Ana dlatego, że tak jak pisałem, W PORÓWNANIU Z TYM CO JEST, prawie każde rozwiązanie zaproponowane przez programistę na etapie projektowania pojazdu będzie LEPSZE OD TEGO CO JEST.

    Gdyż „to co jest” to przerażony, zdezorientowany, zaskoczony, rozkojarzony, czasami niedoświadczony, pijany, stary i wolno reagujący, z wadą wzroku, itp. człowiek za kierownicą. Który decyduje w ułamku sekundy i w oparciu o Bóg wie jakie przesłanki. Który może być nieprzewidywalny i nielogiczny, nawet gdy jego strona psycho-motoryczna jest w porządku.

    Komputerowy system decyzyjny będzie miał nad człowiekiem przewagę, bo będzie korzystał z czujników i aktuatorów a te prawie zawsze są szybsze i lepsze niż zmysły człowieka. I choćby tylko dlatego jego działania będą lepsze, gdyby nawet sama decyzja „w kogo uderzyć” była losowa. Gdyż w bardzo wielu wypadkach taki samochód będzie bardziej zdolny do uniknięcia wypadku albo do bardzo znaczącego zmniejszenia jego skutków.
    Polegając – na początku rozwoju technologii autonomicznego samochodu – tylko na durnej elektronice i mechanice a nie na zasadach samochodowej etyki zaprogramowanych w komputerze.

    I to jest przyczyna, dla której zamiast się martwić „zabijającymi nas robotami” ja wolę patrzeć z optymizmem na rozwój techniki.

  38. zza kałuży
    Ja nie mam problemów z uznaniem dla kogoś rozsądnego bo zdarza się to niezbyt często. Już chciałem to zrobić, kiedy dowiedziałem się, że jestem dziecinny prymityw . Tyle, że to plucie sobie w twarz bo:
    1. Sprawa dronów to wynik wynurzeń USArmy na odbywającej się aktualnie wystawie dronów na Florydzie. A było tam więcej informacji o zabijaniu. P. Szewczyk mógłby o tym wspomnieć.
    2. Problemy decyzji autonomicznych pojazdów to nawet nie mój pomysł tylko niejakiego Patricka Lin, Dyrektora Grupy Nauki i Etyki na California Polytechnic State University. Zamiast się tu wymądrzać radzę zajrzeć do niego i pokazać mu, jaki to on jest prymitywny i głupiutki. Panie niewyobrażalnie genialny geniuszu.

  39. Ludzie się martwią tym, że im kradną katalizatory. Koła. Radia.
    Zna pan kogoś – poza dziennikarzami i teoretykami – kto się martwi sztuczną inteligencją? Temat na imieniny u cioci Kloci.
    Ale tylko wtedy, gdy samochód schowany w garażu, gdyż inaczej po dyskusji o sztucznej inteligencji można znaleźć swoje autko na cegłach i bez katalizatora oraz radia. Za sprawą jak najbardziej naturalnej inteligencji.

  40. @za kaluzy: „poza dziennikarzami i teoretykami – kto się martwi sztuczną inteligencją? Temat na imieniny u cioci Kloci”

    No, Google zrobil bezludny samochod walac kombinerkami.

  41. A.L. 17 maja o godz. 0:51
    „No, Google zrobil bezludny samochod walac kombinerkami.”
    „Bezludny samochód” 😉
    Nie bardzo wiem, dlaczego Google wybrał tak bardzo „amerykańskie” podejście do rozwiązania problemu kierowanego automatycznie samochodu. W tym sensie, że budującego swoją autonomiczność na umieszczonym na nim systemie GPS i innych czujnikach, np. laserowym.

    Zawsze się dziwiłem, dlaczego już 30-40 lat temu nie podjęto próby uczynienia „inteligentnymi” autostrad amerykańskich oraz ich ciężarówek. Dlaczego Google marzy się idealna autonomiczność samochodów pasażerskich w każdych warunkach? Ja bym ograniczył się np. tylko do ciężarówek i tylko na autostradach. Wbudował sieć nadajników i odbiorników w pobocza lub w bariery rozdzielające kierunki ruchu i wyposażył ciężarówki w podobne urządzenia. Plus dodał system czujników patrzących w przód i w tył, zasadniczo odpowiedzialnych za utrzymywanie dystansu pomiędzy pojazdami i za hamowanie/przyspieszanie.
    Moim celem nie byłoby wyposażenie ciężarówek w zdolność do samodzielnej jazdy w dowolnym terenie ale na początek „tylko” po jednym pasie autostrady, z zadaną prędkością i w zadanej odległości od sąsiednich pojazdów. Tylko tyle i aż tyle. Ewentualnie dodałbym jakiś system wspomagający włączanie się do ruchu i opuszczanie autostrady. Miałbym nadzieję na polepszenie bezpieczeństwa, podwyższenie średniej prędkości, obniżenie stresu i uczynienie pracy kierowcy lżejszą. Mógłby przespać się przez np. 2-3 godziny międzystanowej jazdy.
    Teoria mówi, że regulacja prędkości tylko (5? 10? – nie pamiętam teraz) niewielkiego procenta pojazdów wpływa zbawiennie na przepustowość autostrady i na płynność ruchu.

  42. @zza kaluzy: „Zawsze się dziwiłem, dlaczego już 30-40 lat temu nie podjęto próby uczynienia “inteligentnymi” autostrad amerykańskich oraz ich ciężarówek”

    A kto by za to zaplacil? I jakie mozliwoci techniczne byly 40 lat temu (rok 1970) aby cos takiego zrealizowac?

    „Plus dodał system czujników patrzących w przód i w tył, zasadniczo odpowiedzialnych za utrzymywanie dystansu pomiędzy pojazdami i za hamowanie/przyspieszanie.”

    To sie nazywa „adaptive cruise control” i jest od dosyc dawna oferowane pzrez wiekszosc producentow samochodow osobowych i ciezarowek. W samochodach osobowych to ciagle opcja, w ciezarowkach to standard. Wikipedia ma dosyc dobry artykul(y) na ten temat

    A Google zrobil to na co go bylo stac. Przypominam, ze cala sparwa bezludnych samochodow zostala zaczeta przez DARPA. A oni raczej nei jezdza po autostradach

  43. @zza kaluzy: „Tylko tyle i aż tyle. Ewentualnie dodałbym jakiś system wspomagający włączanie się do ruchu i opuszczanie autostrady.”

    Tu gdzie meiszkam, na wszystkich praktycznie autostradach w obszaarch miejskich sa „metered ramps”. Na WJEZDZIE an autostrade ustawione sa swiatla. Zielone swiatlo zapala sie tylko dla jednego samochodu. Swiatla sterowane sa przez komputer wedle dosyc skomplikowanego algrtymu I pomiarow natezenia ruchu. Co powoduje ze autostrada sie nei zapycha.

    Zasadniczym elementem tego system jest kamera rejestrujaca samochody ignorujace czerwone swiatlo. Taka operacja kosztuje kolosalne pieneidze, wiec wszyscy raczej czekaja na zielone

  44. A.L. 17 maja o godz. 4:55
    „A kto by za to zaplacil?”
    I tutaj właśnie wydawałby publiczne pieniądze taki pacyfista jak ja. Zamiast zbroić bomby „zbroiłbym” autostrady i samochody.

    Ale pytanie jest oczywiście bardzo celne. Bo zyskuje na moim (oczywiście, że nie tylko moim) pomyśle „całe społeczeństwo”, czyli nikt. A w każdym razie pewnie zyski pojedynczej firmy czy podatnika są zbyt małe, aby tym się przejmować. Chociaż ludzie nie lubią stać korkach…

    „I jakie mozliwoci techniczne byly 40 lat temu (rok 1970) aby cos takiego zrealizowac?”
    Na Księżycu byliśmy. Dla mnie to jest no brainer. Wtedy w wypadkach drogowych ginęło około 50 tysięcy osób rocznie a rannych było około 3.5 miliona. W jakiej wojnie Ameryka rok w rok ponosiła takie straty?

  45. @zza kaluzy: „Na Księżycu byliśmy. Dla mnie to jest no brainer”

    Pewnie, wystarczy powalic kombinerkami

    A wie Pan jakim kosztem bylismy na Ksziezycu? Wie Pan jak wygladal I ile kosztowal komputer nawigacyjny Apollo?

    „Wtedy w wypadkach drogowych ginęło około 50 tysięcy osób rocznie a rannych było około 3.5 miliona”

    Wtedy nei uzywalo sie pasow w samochodach,a nadwozia samochodow robilo sie z tej samej blachy co puszki do piwa. Niech Pan poczyta dzisiejsze statystyki

  46. Wydaje mi się, ze cała ta fobia przed sztuczną inteligencją podsycana hollywodzkimi produkcjami, to tylko taki strach przed nie znanym. A fakt jest taki, że do stworzenia prawdziwej sztucznej inteligencji nigdy nie dojdzie.

css.php