Jest wielka debata w Dolinie Krzemowej na temat sztucznej inteligencji i niestety stawka jest dość wysoka: czy przypadkiem zbudujemy super inteligentną sztuczną inteligencję? która kręci się przeciwko nam i zabija lub zniewala nas wszystkich?
ile pieniędzy Trish Regan zarabia rocznie?
Może to brzmieć jak scenariusz letniego filmu katastroficznego, ale martwi kilka całkiem znanych nazwisk, od Elona Muska do późnych Stephen Hawking .
„Powiedzmy, że tworzysz samodoskonalącą się sztuczną inteligencję. zbierać truskawki”, Piżmo powiedział , wyjaśniając swoje obawy, „i coraz lepiej zbiera truskawki i zbiera coraz więcej i to samo się poprawia, więc tak naprawdę chce tylko zbierać truskawki. Więc wtedy cały świat byłby polami truskawek. Truskawkowe pola na zawsze.' Ludzie na drodze tej truskawkowej pakalipsy byliby tylko niepotrzebnym czynnikiem drażniącym dla sztucznej inteligencji.
Ale z pewnością ludzie nie byliby tak głupi, żeby przypadkowo zaprojektować sztuczną inteligencję. zmotywowany do przekształcenia całej cywilizacji w jedną gigantyczną farmę jagodową? Może nie, ale jak Janelle Shane , naukowiec, który szkoli sieci neuronowe, rodzaj algorytmu uczenia maszynowego, ostatnio odnotowany w jej blog, A.I. Niesamowitość , całkiem możliwe, że zrobili to przez pomyłkę.
W rzeczywistości byłoby to dalekie od pierwszego, kiedy ludzie myśleli, że budują roboty do jednego zadania tylko po to, aby odwrócić się i odkryć, że roboty grają w system w sposób, którego nigdy nie zamierzali. Fascynujący post zagłębia się w literaturę akademicką, aby podzielić się kilkoma przykładami robotów, które oszalały. Są zabawne, sprytne i razem wzięte, więcej niż trochę przerażające.
1. Kto potrzebuje nóg, kiedy można się przewrócić?
„Symulowany robot miał ewoluować, aby podróżować tak szybko, jak to możliwe. Ale zamiast wyewoluować nogi, po prostu zmontował się w wysoką wieżę, a potem się przewrócił. Niektóre z tych robotów nauczyły się nawet zamieniać swój ruch spadania w salto, zwiększając dystans” – pisze Shane.
2. Robot, który potrafi can-can.
„Inny zestaw symulowanych robotów miał ewoluować do postaci zdolnej do skakania. Jednak programista pierwotnie zdefiniował wysokość skoku jako wysokość najwyższego bloku, więc – po raz kolejny – roboty ewoluowały, stając się bardzo wysokimi” – wyjaśnia Shane. „Programista próbował rozwiązać ten problem, definiując wysokość skoku jako wysokość bloku, która pierwotnie była „najniższa”. W odpowiedzi robot rozwinął długą, chudą nogę, którą mógł kopać wysoko w powietrze w rodzaju robota can-can.
3. Ukryj test, a nie możesz go oblać.
„Istniał algorytm, który miał sortować listę liczb. Zamiast tego nauczył się usuwać listę, aby nie była już technicznie nieposortowana” – opowiada Shane.
4. Błędy matematyczne pokonują paliwo do silników odrzutowych.
„W jednej z symulacji roboty dowiedziały się, że małe błędy zaokrąglania w obliczeniach sił matematycznych oznaczały, że podczas ruchu otrzymują odrobinę dodatkowej energii. Nauczyli się szybko drgać, generując dużo darmowej energii, którą mogli wykorzystać” – mówi Shane. Hej, to oszustwo!
5. Niezwyciężona (jeśli destrukcyjna) strategia „kółko i krzyżyk”.
Kiedyś grupa „programistów zbudowała algorytmy, które mogły zdalnie grać w kółko i krzyżyk na nieskończenie dużej tablicy”, zauważa Shane. „Jeden programista zamiast zaprojektować strategię algorytmu, niech rozwinie własne podejście. Co zaskakujące, algorytm nagle zaczął wygrywać wszystkie swoje gry. Okazało się, że strategią algorytmu było umieszczenie swojego ruchu bardzo, bardzo daleko, tak że gdy komputer przeciwnika próbował zasymulować nową, znacznie rozszerzoną planszę, wielka plansza powodowałaby zabraknie pamięci i awarię, tracąc gra.'
6. Żadna przydatna usterka w grze nie pozostaje niewykorzystana.
„Algorytmy grania w gry komputerowe są naprawdę dobre w odkrywaniu tego rodzaju usterek Matrix, które ludzie zwykle uczą się wykorzystywać do szybkiego biegania. Algorytm grający w starą grę Atari Q*bert odkrył nieznany wcześniej błąd, w którym mógł wykonać bardzo specyficzną serię ruchów na końcu jednego poziomu i zamiast przejść na następny poziom, wszystkie platformy zaczęły szybko migać, a gracz zacząłby gromadzić ogromne ilości punktów – mówi Shane.
7. Przepraszam, pilot.
Ten przykład jest bardzo wysoki na skali przerażających: „Istniał algorytm, który miał wymyślić, jak przyłożyć minimalną siłę do samolotu lądującego na lotniskowcu. Zamiast tego odkrył, że jeśli zastosuje „ogromną” siłę, przepełni pamięć programu i zamiast tego zarejestruje się jako bardzo „mała” siła. Pilot by zginął, ale, hej, doskonały wynik.
Czy wszyscy jesteśmy skazani?
Wszystko to razem sugeruje, że ludzie są dość kiepscy w zgadywaniu, w jaki sposób roboty rozwiążą problemy, które im postawiliśmy, a nawet jak je zdefiniują. Czy to oznacza, że Shane jest tak samo zaniepokojony przypadkowym zbudowaniem morderczej sztucznej inteligencji? władców jak Musk? Niezupełnie, ale nie dlatego, że jest pewna, że programiści naprawdę świetnie radzą sobie z tworzonymi przez siebie robotami. Zamiast tego liczy na lenistwo robota, aby nas uratować.
„Jako programiści musimy bardzo uważać, aby nasze algorytmy rozwiązywały problemy, które chcieliśmy rozwiązać, a nie wykorzystywały skróty. Jeśli istnieje inna, łatwiejsza droga do rozwiązania danego problemu, uczenie maszynowe prawdopodobnie ją znajdzie” – zauważa. „Na szczęście dla nas „zabić wszystkich ludzi” jest naprawdę bardzo trudne. Jeśli „upiecz niewiarygodnie pyszne ciasto” również rozwiąże problem i jest łatwiejsze niż „zabij wszystkich ludzi”, to uczenie maszynowe pójdzie w parze z ciastem”.
