Rozwiązanie proponowane przez Zawiego wydaje mi sie rozsądne. ma przy tym ta zaletę ze chroni producenta i programistę przed pozwami sadowymi ponieważ decyzja podejmowana jest "demokratycznie" przez wieksze grono osób. jerdnak nie jestem pewien czy czy wszyscy takie rozwiązanie zaakceptują bo wiele osób a juz zwłaszcza osób religijnych uważa że jedynie one mają "jedynie-słuszne i niepodważalne" zdanie na temat etyki i o zadnym głosowaniu w takich sprawach mowy nie ma (dla przykładu- odzew na propozycję rozstrzygnięcia sprawy aborcji droga referendum).
Kiedyś wrzuciłem ty w formie ankiety "dylemat wagonika" ( czy przestawić zwrotnice ratując 3 osoby ale zabijając jedną) i jeden z moderatorów (Bert bodajrze) stanowczo uwazał że zwrotnicy przestawiać NIE nalezy. Zatem zasady "minimalizacji szkód" nie uznał za obowiązującą...

A teraz nowość:
Zrealizowano kolejny etap projektu Blue Brain- modelowanie fragmentu mózgu szczura w komputerze. Kolejnymi etapami mają byc modelowanie całego mózgu gryzonia a następnie mózgu człowieka co zapowiadane jest na rok 2020.
http://kopalniawiedzy.pl/neokorteks-kor ... kram,23303
Powodzenie tego projektu otwierało by drogę do "przepisywania" ludzkich osobowości do komputerów co dałoby nam swego rodzaju nieśmiertelność.l

Tak się łatwo pisze, ale...

Po pierwsze przy aktualnej mocy obliczeniowej komputerów nie ma możliwości analizowania pełnej wersji każdego zdarzenia z osobna. Takie programy nie istnieją, ale można by je może wielkim wysiłkiem napisać. Jednak nie istnieją komputery zdolne w rozsądnym czasie oszacować skutki choćby kilku możliwych wariantów działania. Co nam po wyniku za dwa dni, skoro czas na reakcję to np. 0,3 s? Maksimum na co sobie możemy pozwolić to operowanie na gotowych wynikach, a nie na danych wejściowych. Dlatego moja propozycja ma walor praktyczny (aplikacyjny), a twoja nie. Kiedyś się to zmieni gdy komputery przyspieszą milion albo miliard razy. Spokojnie - dożyjemy tego czasu. A póki co proponowana sieć neuronowa właśnie operuje samymi wynikami wcześniej uzyskanymi w toku procesu uczenia się.

Po drugie zagadnienie nie techniczne ale moralne jest takie, że łatwo rozkazać autonomicznemu samochodowi ochronę kierowcy (jedzie przepisowo przecież), a z niższym priorytetem ochronę nieprzepisowo idących pieszych (trzech pijaków wtargnęło na drogę wiec są sami sobie winni). Dużo trudniej zastosować ten sam priorytet gdy dziecko nieprzepisowo wbiegnie na jezdnię za piłką albo za kolegą, który je zawołał z drugiej strony drogi. Auto nie odróżni tych dwóch sytuacji i przejedzie dziecko zamiast uderzyć w drzewo. Pasażer samochodu jest chroniony karoserią, pasami bezpieczeństwa i poduszką powietrzną więc ma szanse żyć po uderzeniu w drzewo. Dziecko po przejechaniu szans nie ma prawie żadnych.

Tak to jest z łatwymi osądami i pryncypialnie stawianymi racjami. One są słuszne tylko w przypadkach, które przyszły nam do głowy gdy osąd wypowiadaliśmy. A po bliższym zapoznaniu się ze sprawą zwykle niuanse wykładają szybkie osądy na łopatki. Dlatego utrzymuję, że moje rozwiązanie jest jednak lepsze i to znacznie.
Nie ma się oczywiście o co kłócić, bo nie mam z tego pieniędzy ani sławy więc olewam spory. Piszę to hobbystycznie, mimo, że zajmuję się czasami zagadnieniami z algorytmami ewolucyjnymi i podobnymi więc znam trochę trudności w realnych aplikacjach różnych systemów wspomagania decyzji. To nie jest takie proste jak się wydaje na pierwszy rzut oka.

Nie widzę przeszkód aby sieć neuronowa realizowała właśnie takie założenia jak przedstawiłem. Pisałem o idei a nie o sposobie realizacji.

Z technicznego punktu widzenia nie ma większej różnicy między tymi sytuacjami. Jeśli samochód potrąci dziecko, które wybiegło za piłką, to winę ponosi dziecko (ew. rodzice).

Patrząc z punktu widzenia minimalizowania strat, masz rację. Wydaje mi się jednak, że programowanie urządzeń w ten sposób doprowadzi do chaosu. Wyobraźmy sobie świat w którym tego typu samochody są na porządku dziennym - skrajna sytuacja. Jeśli byłyby zaprogramowane według mojej koncepcji, wypadki drogowe z udziałem dwóch pojazdów byłyby praktycznie niemożliwe. Czasem zdarzałby się wypadek z udziałem pieszego (tylko z jego winy). Wyobraź sobie co by się stało gdyby na ruchliwe skrzyżowanie wybiegło dziecko. 1 - dziecko z własnej winy zostałoby potrącone 2 - wszystkie samochody jadące w jego kierunku gwałtownie by skręciły. Powstałby chaos, którego wyniku nie jest w stanie przewidzieć żaden komputer. Mogłoby dojść do wielu ofiar zarówno wśród kierowców jak i pasażerów.

Twoje rozwiązanie jest dobre, jednak nie do końca mogę pogodzić się z zasadą, że przepisowo jadący kierowca zostaje ofiarą wypadku, bo ktoś mu wyskoczył na jezdnię. Chyba, że świadomie podejmie taka decyzję. Takie samochody mogłyby mieć możliwość definiowania zachowania w tego typu sytuacjach, co również rozwiązałoby problem.

Nauka to zbiór wiedzy. Debatowanie nad sztuczna inteligencją to jest bajkopisarstwo a nie nauka.

Do maszynowej inteligencji jeszcze brakuje.
Natomiast programowanie tworów które zachowują się jak ludzie (fizycznie) jest już dawno realne.
Użycie tego na wojnie będzie w skutkach fatalne.

Warto zerknąć na odtajnione prototypy Boston Dynamics (te tajne dla DOD są oczywiście technologicznie z wyprzedzeniem i nie ma ich na YouTube).

https://www.youtube.com/watch?v=rVlhMGQgDkY

https://www.youtube.com/watch?v=-e9QzIkP5qI

Dla mnie przerażająca przyszłość!
Teraz weź to odpowiednio opancerz i mamy robo nie do zdarcia na linii frontu.

Tak, brakuje i to dość dużo. My nawet nie wiemy co to jest inteligencja.


Te twory nie roznią od:


To Cię nie przeraża?

Wszystkiego można użyć w dwojaki sposób, także sztucznej inteligencji.
Do ochrony rozwoju i do zniszczenia.

Wystarczy że będą prace czynione w kierunku rozwoju i ochrony, to podstawa.
Oczywiście powstaje niewiadoma, czyli coś poszło nie tak.
Tu mamy przykład taki że musi zaistnieć to nie tak, nawet musi ktoś być tego ofiarą, by powstało zabezpieczenie na to nie tak.

Na szczęście to nie jest regułą, cały czas to nowe ma charakter użyteczny, a tylko sporadycznie dochodzi do wpadek.

Cały czas także rośnie przewidywalność możliwych wpadek, czynione są lepsze zabezpieczenia na takie coś.
Wcześniejsze konstrukcje nie miały nawet żadnych zabezpieczeń.

Taki prosty przykład nóż do krojenia chleba istnieje do dziś.
Lecz istnieją automaty do krojenia chleba, gdzie kładzie się chleb i czeka aż wyjdzie pokrojony.
Nie mamy kontaktu z ostrzem noży nie ma zagrożenia skaleczeniem.

Ja tam nie boję się więc o sztuczną inteligencję.
Boję się natomiast o siebie, że nie będę już na tyle sprawny by z niej umieć korzystać.
Tyle że się z tym staram pogodzić, a nie bić na alarm, że będzie z tym źle.

Te twory nie roznią od czołgów?

Różnica jest kolosalna - czołg bez załogi to kupa złomu.
Te z Boston Dynamics - potrafią się włączyć, chodzić strzelać, widzą w nocy, mają wizje 360 stopni w real time w 3d. Są kompletnie autonomiczne. Nowe prototypy można oczywiście wyłączyć zdalnie znając odp kod i metodę.
Więc na razie bezpieczne zakładając że jesteś po ich stronie na linii frontu.
Po przeciwnej - no cóż, współczuję!

Sztuczna inteligencja będzie to soft oparty na metodach samouczenia się (samokodowania). Można już teraz próbować takie logarytmy porobić.
Inetligencja więc to nic innego w świecie maszyn jak program lub ich zespół utworzony tak aby sam kodował się dalej. W zależności od potrzeb można tu sporo kombinować. Tak to widze.

W PEŁNI autonomiczne? Co to znaczy? Czy samochód Tesla jest w pełni autonomiczny?


Ale czy tego typu "samouczenie" to jest juz inteligencja?



Ja nie bardzo. Zakladam, że ty jesteś inteligentny czy w jakiś sposób możesz ten proces o którym napisałeś pokazać na swoim przykładzie? Tzn. do czego to "kodowanie się" dalej prowadzi?

Mam na myśli to że jest samowystarczalny.Jak raz zakodowany i odpalony - sam utrzymuje wszystkie swoje funkcje niezależnie od twórcy.

Np:
Robot po odcięciu 3 kończyn potrafi na 1 dopełznąć do bazy i sam się naprawić. Po ucięciu głowy - system automatycznie odpala 2 procek ukryty np tułowiu i przejmuje jego funkcje. Funkcje otwierające botom te cechy których człowiek nie ma.
Tesla to samochód - daleko im jeszcze do tego żeby sam się bezpiecznie kierował lub zebyś mógł do niego zatelefonować lub zawołać,a ten po ciebie przyjechał lub sam się naprawił.
Tesla ma potężne możliwości - jak pewnie wiesz jej szef prowadzi oprócz PayPala również SPACEX (autonomiczną rakiete która startuje i ląduje samodzielnie).Są więc na tej drodze.







Zależy jak na to spojrzeć. Dla humanisty inteligencja to cecha organizmów żywych.
Maszyna jest martwa

Jednak można ją podrobić cyfrowo - stworzyć kod który spełni wszystkie jej funkcje.
Pamięć w bazie danych, procesy myslenia w odp.logarytmach i wykon w procesorze a czyny w odpowiednich systemach maszynowych (czy to kamera, mikrofon, układ hydrauliczny, silnik ,radar, czujnik) cokolwiek.....

na tej bazie....

Samokodowanie - na zasadzie naszego mózgu.
Nauczać się nowych fraz (jezyk) programować nowe zależności (nauka zawodu np. lub strategia dalszego postępowania), odwoływanie się do pamięci (baza danych) tworzenie i zapis nowych przeżyć.
Wszystko to sam mogę zrobić już teraz a znam jedynie PHP i html - języki upośledzone bo te są głównie do stron i programów online ale są przecie o wiele szybsze i wydajniejsze języki (c, c++) które mają wszelkie funkcje umożliwiające takie cuś.

SKY is the limit.

Bezedura, że sztuczna inteligencja miała być zagrożeniem. Sztuczna inteligencja jest głupia. Są testy bardziej wymagające od testu Turinga:
- dajmy komputerowi dwie zeskanowane książki, jedna na temat szachów czy dla uproszczenia warcabów,
- druga na temat programowania w jeżyku C/C++.
- niech komputer w języku C/C++ oprogramuje tę grę.
To potrafi człowiek
A komputer? Nawet trudno mu zeskanowany tekst zamienić na ASCII, obecne programy OCR działają źle i mylą np h z b

Na razie nikt nie jest w stanie powiedziec czy predzej stworzymy wiedze na temat naszej inteligencji zanim te sztuczna ktos zdola wyprodukowac. Mysle, ze bezpiecznie jest zalozyc, ze beda wykonywane prace i bedzie sie poglebiac nasza wiedza w tych kierunkach.
Jestem w stanie przyjac, ze w przyszlosci zbudujemy AGI z inteligencja porownywalna do zespolu ludzi, ale ze znacznie szybszym zegarem. Tak, ze w ciagu godziny wykona tysiac lat ich pracy. Jednakze, zanim zbudujemy takie AGI, zbudujemy inne, wolniejsze (wyobrazcie sobie jakie beda lalki, Eryk Bloodeaxe pisze 'jeszcze widac roznice' ). Miedzyczasie, i wraz z rozwojem kolejnych generacji AI nasza 'naturalna inteligencja' rowniez bedzie rosnac chociazby poprzez wszczepy. Oczywiscie, mozna wyczytac nawet z OP, mozna spodziewac sie oporu religijnych, ale od kiedy religia nie lezy nauce kloda? Moim zdaniem Profesor H z kolegami przesadzaja. Ja bardziej obawialbym sie kompetencji AI czy braku naszej. Mogloby sie zdarzyc tak, ze maszyna wykonujac nasze polecenia w efekcie nieprzewidzianych skutkow doprowadzilaby do katastrofy.

Mam nadzieję że nie będzie wszczepów

Mysle, ze nie bylby to duzy problem jesli wszczepy bylyby tylko dla chetnych, tak jak telefony i religia teraz.
A jakby, nie wiem, moglibysmy miec cala biblioteke ludzkosci w zasiegu mysli i taka Biblie mozna by bylo mentalnie ogarnac cala tak jak teraz dajemy rade z jednym wersem? Cos, co byloby przydatne miec.
Wozki inwalidzkie stalyby sie przezytkiem. Gdyby to bylo teraz, to Hawking moglby ci napisac uzywajac umyslu a jego AI protezy wystukalaby na telefonie na forum tak, ze wydawaloby mu sie, ze to on wlasnymi rekoma. I napisalby raczej, ze pomimo tego, ze wciaz gada przez glosnik, jest mu o niebo lepiej niz na krzeselku i jak chce to moze chodzic na linie i zonglowac nozami z taka latwoscia jak pisanie posta.
Jakie sa niereligijne argumenty za anty transhumanizmem czy moze nawet tym co moznaby na nim zbudowac?

To zdanie jest ma taką "szerokość", że praktycznie nic nie znaczy.



Ale czy to jest inteligencja?


Ale to nie jest inteligencja a wykonanie szeregu algorytmów.



Ale czy to jest inteligencja?



No właśnie spojżmy na to co to jest inteligencja, bo ja tego nie wiem...


Tzn. jakie funkcje? Wszystkie?



Ale w jaki sposób myśli człowiek? Jaki jest to algorytm?



Tzn. jakiej zasadzie?



Tak, tak ja wiem, że mózg to robi, ale w jaki sposób?



Myślę, że brak poznania samych siebie jest tym limitem.