"Nie tylko prymitywna siła Państwa Islamskiego grozi zniszczeniem ludzkiej cywilizacji. Najtęższe umysły naszych czasów niepokoi co innego - podporządkowanie czy wręcz zniszczenie ludzkości przez sztuczną inteligencję. Wybitny fizyk Stephen Hawking, twórca Microsoftu Bill Gates czy współzałożyciel PayPala Elon Musk wszyscy oni uważają, że zagrożenie jest realne".

Moim zdaniem powstrzymanie SI powinno być dla nas kluczowym zadaniem.

Zachęcam do lektury ciekawego tekstu i dyskusji:

http://pl.blastingnews.com/technologia/ ... 39491.html

Interesująca sprawa, niemniej do zagrożenia przez SI jeszcze droga daleka. Pierwsze jakie widzę, to robot mylący się przy podawaniu leków lub robo-chirurg wykonujący niezaplanowany ruch. Nie wymaga to jednak nawet zalążka świadomości robotów czy zdolności do podejmowania istotnych decyzji, a opiera się jedynie na awarii sprzętu i jest niezwykle mało prawdopodobne.
W odleglejszej perspektywie, dron bojowy może faktycznie pomylić wroga ze swoim i poczęstować kulką nie tego co trzeba.
Do buntu robotów rodem z Terminatora brakuje jeszcze wielu wielu lat, choć nie twierdzę że jest to niemożliwe.

Sęk w tym, że jak zauważa autor linkowanego tekstu, przyszłość ta może być bliższa niż się wydaje...

nie wiemy i nie dowiemy się od razu co tam pichcą w wojskowych laboratoriach... więc myślę że nie ma się co bać na zapas, jak już SI będzie istniało i działało to się dowiemy, albo pokojowo od wojskowych, albo niekoniecznie pokojowo od SI

Lata 40te, 50te-70tych to komputery o jakiś przeraźliwie śmiesznych osiągach (z obecnego punktu widzenia). Maszyny z kilkoma procesorami taktowanymi nastoma kHz były superkomputerami. Teraz byle zabawka (tablet, smartfon) to urządzenie z 2, 4 czy 6-ma procesorami, taktowanymi GHz a obecne superkomputery to oczywiście kilka rzędów więcej niż te zabawki. Tylko czy z tego może być jakaś Sztuczna Inteligencja, czy to raczej nadal są co prawda ultraszybkie ale zawsze tylko kalkulatory?
Dron (czy po prostu "inteligentna" rakieta) jest na tyle mądry, na ile mądrzy są konstruktorzy (programiści) i wykona zadanie takie jakie zadali mu operatorzy.. Inteligencja to samodzielna ocena środowiska, samokształcenie, samodzielne wybieranie celów zainteresowania..
Mózg ludzki nie przetwarza liczb, w każdym razie nie w sposób jakiś szczególnie szybki (proszę policzyć w pamięci ile to jest 81723332211121 * 34129192939332119/3290809777723), za to potrafi szybko podjąć decyzje przy niekompletnych danych (albo bez szczegółowej analizy dostępnych danych - bo mu się "nie chce"), tylko na podstawie analogii i to nieraz bardzo odległych, a skutek decyzji często bywa prawidłowy..

A może nie zagrożenie tylko wielka szansa na podniesienie własnych możliwości, na nieśmiertelność, na samodoskonalenie?
Kiedyś juź o typ pisałem ale wątek wcięło.
Na początek polecam camiast oglądać "Terminatora" w telepudle, poczytać Jacka Dukaja, który w "Perfekcyjnej niedoskonałości" wybiega na 1000lat w przód...
https://pl.wikipedia.org/wiki/Perfekcyj ... 5%9B%C4%87

Pamiętam, pewnie był ponad rok nieodświeżany.

"Zespół badawczy na Uniwersytecie Cambridge opracował niezwykłego robota, który samodzielnie konstruuje kolejne niewielkie roboty, testuje i analizuje swoje dzieła i wyciąga wnioski z obserwacji. Następnie produkuje kolejne generacje robotów a każda z nich jest lepsza od poprzedniej.


Opracowana przez naukowców maszyna otrzymała do swojej dyspozycji klocki, które zawierają małe silniczki. Natomiast cały proces tworzenia mini-robotów przebiega bez jakiejkolwiek pomocy człowieka. Robot skleja ze sobą dwa klocki, kładzie je na stół a przy pomocy kamery obserwuje zachowanie swojego "dziecka". Analizuje między innymi efektywność z jaką porusza się powstały twór.


W sumie przeprowadzono kilka eksperymentów a podczas każdego z nich, maszyna konstruowała aż 100 małych robotów (10 pokoleń po 10 robotów). Badacze zaobserwowali, że każde kolejne pokolenie było lepsze od poprzedniego, tj. potrafiło poruszać się z większą efektywnością. Ostatnia generacja była dwukrotnie szybsza od pierwszej.


Mamy zatem do czynienia z robotem "matką", który samodzielnie konstruuje coraz lepsze maszyny."

http://zmianynaziemi.pl/wiadomosc/uczen ... ze-maszyny

Krok bliżej sztucznej inteligencji?
To tak w pigułce, o szczegółach eksperymentu było w jakimś poważniejszym magazynie, ale nie chce mi się teraz szukać ;)

W skrócie, bo nie chce mi sie duzo pisać> Jedna z rysujących się możliwości to stopniowa cyborgizacja ludzi czyli zastępowanie psujących się elementów ciała ( a także mózgu) sztucznymi odpowiedniczkami. Krok następny to "przepisanie" ludzkiego umysłu do komputera, czym zajmuje sie Human Brain Project (HBP). potrzebne do tego moce obliczeniowe mają sie pojawić około 2020 roku.
https://pl.wikipedia.org/wiki/Blue_Brain_Project
Realizacja tego projektu dawała by ludziom potencjonalną nieśmiertelność bo zużyte mechaniczne lub biologiczne ciała można by bez przeszkód zastepować nowymi a także mozliwośc rozbudowywania mocy umysłowych az do stanu nazwanego przez Dukaja Phoebe (skrót od Post-Human Being, ang. istota postludzka)

No ale to zdaniem Dukaja dopiero za 1000 lat
A na razie na czele jak zwykle Japończycy...
Ot dzieło pana Hiroshi Ishiguro z roku 2010: Pani Androidka Geminoid F razem ze swoja biologiczną bliźniaczką:

A to kolejna odsłona: Pani Otonaroid rocznik 2014, również z "siostrą"

Która jest która? Jeszcze można odróżnić, ale z kazdym nowym modelem jest to coraz trudniejsze

Obawiam się, że na razie naszej egzystencji nie zagraża żadna forma inteligencji...

Człowiek jest nieśmiertelny .

To dział naukowy na forum, więc proszę posiłkować się argumentami stricte naukowymi (filozoficzne - tak, teologiczne- nie). Inaczej posty wylądują w koszu. Takie są zasady tego działu.

Powiedzmy że nie taki typ nieśmiertelności miałem na myśli

A teraz postraszymy:

http://www.computerworld.pl/news/402532 ... wieka.html
Zaczyna się

Żartuję oczywiście, z tego co wyczytałem miał miejsce typowy wypadek przy pracy, człowiek znalazł się w miejscu w którym nie powinien być a maszyna wzięła go za przedmiot który należy przestawić w inne miejsce i potraktowała nieco niedelikatnie. Oczywiście można było tego uniknąć, wystarczyło tylko wyposażyć robota w dodatkowe czujniki pozwalające odróżnić ludzi od innych przedmiotów i program nakazujący traktować ich w inny sposób. Ciekawe kogo sąd uzna za winnego wypadku?
A tak sobie przy okazji pomyślałem że dochodzimy do momentu w którym trzeba będzie wyposażyć maszyny w zdolność rozstrzygania dylematów etycznych. Weźmy taki automatyczny samochód Googla:

I wyobraźmy sobie taką sytuację- jedzie sobie taki automat wąska drogą w szpalerze drzew wioząc czterech pasażerów a tu nagle z przeciwka wyskakuje nieostrożny motocyklista. Samochód może:
a. Skręcić w bok i uderzyć w drzewo
b. Nie skręcić i uderzyć motocyklistę
Ma więc wybór miedzy złem a złem jak w klasycznym "dylemacie wagonika"
Co powinien zrobić?
I czy programista powinien to z góry ustalić czy zostawić maszynie wybór zależnie od sytuacji?
Jak uważacie?

Tak w wspomnianych kwestiach przeczytał bym” O czym marzą psyborgi” Barbeta.
Przeniesienie ludzkiej świadomości na „matrycę” cyfrową daje nieśmiertelność w jakimś zakresie.

Pewnie wraz z rozwojem techniki i mocy obliczeniowej komputerów te kwestie będzie się dało rozstrzygać coraz lepiej. Gdyby dało się w ułamku sekundy (bo więcej na decyzję nie ma) wyliczyć skutki każdej z decyzji to i samą decyzję da się łatwiej podjąć, albo przynajmniej po fakcie uzasadnić przed sądem.

Natomiast już dziś przy aktualnym stanie techniki postawione przez Eryka pytanie może się doczekać sensownej odpowiedzi. Programista nie chce i moim zdaniem nie powinien decydować z góry jak ma się zachować układ decyzyjny autonomicznego samochodu. Po ew. tragedii nikt nie chce być szarpany po sądach za swoją decyzję zaszytą w algorytmie.
Ale jednak jakąś decyzję trzeba podjąć, bo brak decyzji w tej sprawie i jazda dalej na wprost to też jest decyzja. Tragiczna w skutkach.

Ja bym to zrobił tak.
Decyzje tego typu powinna podejmować sieć neuronowa w komputerze sterującym samochodem. Taką sieć trzeba najpierw wytrenować i tu jest miejsce do koniecznego rozmycia odpowiedzialności. Bowiem trening sieci neuronowej polega na ładowaniu do niej zbioru danych o konkretnym przypadku i następnie prawidłowego rozwiązania. Po wielu takich sesjach uzbiera się baza tysięcy przypadków i tysięcy akceptowalnych decyzji. Na ich podstawie sieć sama podejmie podobną decyzję w podobnej sytuacji.
Jeszcze tylko pytanie skąd brać te przypadki i ich rozwiązanie. Otóż bierzemy symulator jazdy samochodem (są takie i to niezłe - nawet na polibudzie w stolicy mają bardzo uproszczony, ale sensownie działający symulator; widziałem wyniki badań hamowania przed wyskakującą znienacka przeszkodą) i za sterami symulatora sadzamy instruktorów jazdy. Każdy instruktor by utrzymać swoje uprawnienia do nauczania w szkole jazdy miałby obowiązek wykonać pewną liczbę przejazdów ćwiczebnych i następnie na symulatorze zdać egzamin oceniany przez komisję. Te przejazdy egzaminacyjne ocenione przez komisję pozytywnie (że zdał) tworzą bazę danych wejściowych do wytrenowania sieci neuronowej sterującej samochodem autonomicznym.

Co daje takie rozwiązanie:
1) szybkość działania i tym samym szybką decyzję na drodze;
2) rozłożenie odpowiedzialności na szeroką grupę ekspertów jakimi są w odczuciu społecznym instruktorzy jazdy (wówczas łatwiej jest powiedzieć rodzinie tragicznie zmarłej ofiary wypadku, że "nic się nie dało zrobić w tej sytuacji");
3) korzystanie z mądrości i doświadczenia osób o wyższej (średnio) świadomości na drodze niż przeciętna w społeczeństwie.

P.S. Nie będę pisał na to patentu, ale rozwiązanie jest jak najbardziej do wdrożenia. Kto ma ochotę niech pisze do googla.

Zamiast kombinować lepiej byłoby wprowadzić zasadę minimalizowania szkód z priorytetem dla osoby poruszającej się przepisowo. Chcącemu nie dzieje się krzywda. Jeśli np. trójka pijanych osób idzie po ciemku środkiem ulicy, to prawidłowym wyjściem jest według mnie ochrona jadącego przepisowo kierowcy a w drugiej kolejności minimalizowanie szkód pozostałych osób.