Wygląda na to, że nie minie miesiąc, zanim żadna znana osoba nie wypowie się na temat możliwości przejęcia władzy przez maszyny ze sztuczną inteligencją. Elon Musk mówi, że systemy AI są „potencjalnie bardziej niebezpieczne niż nuklearne”. Ale nie tylko on, Stephen Hawking jest również zaniepokojony: „Rozwój pełnej sztucznej inteligencji może oznaczać koniec rasy ludzkiej”, Profesor Hawking powiedział BBC. „Sama startuje i zmienia się w coraz szybszym tempie.” Nawet Bill Gates martwi się: „Jestem w obozie, który martwi się o super wywiad. Zgadzam się z Elonem Muskiem i kilkoma innymi w tej sprawie i nie rozumiem, dlaczego niektórzy ludzie się tym nie przejmują ”.

Wszyscy wyrażają obawy dotyczące możliwości wystąpienia niezamierzonych, a nawet potencjalnie katastrofalnych skutków potężnych systemów AI. W styczniu Elon Musk przekazał 10 milionów dolarów na rzecz Future of Life Institute (FLI) na prowadzenie globalnego programu badawczego mającego na celu utrzymanie AI przynoszącym korzyści ludzkości.

Dzisiaj Instytut Przyszłości Życia ogłosił, że przyznał fundusze w wysokości 7 milionów dolarów 37 zespołom badawczym na całym świecie, aby społeczeństwo mogło czerpać korzyści z AI, unikając apokalipsy i końca życia na ziemi.

Niebezpieczeństwo związane ze scenariuszem Terminator nie polega na tym, że tak się stanie, ale na odwróceniu uwagi od rzeczywistych problemów związanych z przyszłą sztuczną inteligencją.

Jaan Tallin, jeden z członków założycieli FLI i facet, który napisał oryginalną wersję Skype'a, powiedział o nowych badaniach: „budowanie zaawansowanej sztucznej inteligencji jest jak wystrzelenie rakiety. Pierwszym wyzwaniem jest maksymalizacja przyspieszenia, ale kiedy zacznie on nabierać prędkości, musisz także skupić się na sterowaniu. ”

Wśród 37 projektów znajdują się trzy projekty, które przyjrzą się technikom umożliwiającym systemom sztucznej inteligencji nauczenie się, co ludzie wolą od obserwowania naszego zachowania. Jeden z tych projektów będzie prowadzony w UC Berkeley, a drugi na Oxford University.

Benja Fallenstein z Instytutu Badań Inteligencji Maszynowej otrzymuje 250 000 USD na badania nad sposobami dostosowania interesów superinteligentnych systemów do ludzkich wartości. Podczas gdy zespół Manuela Veloso z Carnegie-Mellon University otrzyma 200 000 USD na zastanowienie się, jak zmusić systemy AI do wyjaśniania ludziom swoich decyzji.

Inne projekty obejmują badanie Michaela Webba z Uniwersytetu Stanforda na temat tego, w jaki sposób utrzymać korzystne skutki AI związane z gospodarką, projekt dotyczący utrzymywania broni napędzanej AI pod „znaczącą kontrolą człowieka” oraz nowe centrum badawcze Oxford-Cambridge do badania AI -odpowiednie zasady.

Ten ostatni to największy jackpot. Nowym centrum o nazwie „Strategiczne centrum badawcze sztucznej inteligencji” będzie kierował Nick Bostrom, facet, który napisał książkę, która spowodowała, że ​​Elon wpadł w panikę na temat przyszłości ludzkości. Aby założyć centrum, FLI daje Bostromowi fajne 1,5 miliona dolarów. Kto powiedział, że nie ma pieniędzy na pisanie o robotach przejmujących świat? Właściwie to nikt, spójrz tylko, ile pieniędzy Hollywood zarabia na tym gatunku!

Mówiąc o Hollywood, FLI próbuje oddzielić się od apokalipsy. FLI pragnie podkreślić znaczenie oddzielenia faktu od fikcji. „Niebezpieczeństwo związane ze scenariuszem Terminator nie polega na tym, że tak się stanie, ale na odwróceniu uwagi od rzeczywistych problemów związanych z przyszłą sztuczną inteligencją”, powiedział prezydent FLI Max Tegmark. „Koncentrujemy się na tym, a 37 zespołów wspieranych przez dzisiejsze granty powinno pomóc w rozwiązaniu takich rzeczywistych problemów”.

Co myślisz? Dobrze wydane pieniądze?