Systemy sztucznej inteligencji już budzą obawy, szczególnie te, które mogą kontrolować inne maszyny. Wiele
Załóżmy, że ktoś musi programowaćsystem sztucznej inteligencji z wyższą inteligencją ludzką, aby mógł uczyć się niezależnie od człowieka. Wtedy sztuczna inteligencja podłączona do Internetu będzie miała dostęp do wszystkich danych ludzkości. Będzie też mógł zastąpić wszystkie istniejące programy i przejąć kontrolę nad wszystkimi maszynami na całym świecie. Czy ta utopia czy dystopia się wydarzy? Czy sztuczna inteligencja będzie w stanie wyleczyć raka, przynieść pokój na świecie i zapobiec katastrofie klimatycznej? A może zniszczy ludzkość i przejmie kontrolę nad Ziemią?
Informatycy i filozofowie zastanawiają się, czy w ogóle będziemy w stanie kontrolować superinteligentną sztuczną inteligencję, tak aby nie stanowiła ona zagrożenia dla ludzkości.
„Superinteligentna maszyna, która rządzi światem,brzmi jak science fiction. Ale są już maszyny, które wykonują pewne ważne zadania całkowicie niezależnie, a programiści nie do końca rozumieją, jak się tego nauczyli. Dlatego pojawia się pytanie, czy w pewnym momencie mogłoby to stać się niekontrolowane i niebezpieczne dla ludzkości ”- mówi współautor badania Manuel Sebrian, szef zespołu ds. Mobilizacji cyfrowej w Centrum Ludzi i Maszyn w Instytucie Rozwoju Człowieka im. Maxa Plancka.
Naukowcy zbadali dwa różne pomysły, jak to zrobićmożna sterować superinteligentną sztuczną inteligencją. Z jednej strony możliwości superinteligentnej sztucznej inteligencji można by konkretnie ograniczyć, na przykład poprzez odizolowanie jej od Internetu i wszystkich innych urządzeń technicznych, tak aby nie mogła kontaktować się ze światem zewnętrznym, ale to uczyniłoby superinteligentną sztuczną inteligencję znacznie mniej potężną i mniej zdolną do reagowania na zadania humanitarne. ... Bez takiej możliwości AI od samego początku mogłaby być motywowana do dążenia tylko do celów, które są zgodne z interesami ludzkości, np. Poprzez zaprogramowanie w niej zasad etycznych. Jednak naukowcy pokazują również, że te i inne współczesne i historyczne pomysły kontrolowania superinteligentnej sztucznej inteligencji mają swoje ograniczenia.
W swoich badaniach zespół się rozwinąłteoretyczny algorytm powstrzymywania, który zapewnia, że superinteligentna sztuczna inteligencja nie może wyrządzić krzywdy ludziom w żadnych okolicznościach, najpierw symulując zachowanie SI i zatrzymując je, jeśli zostanie uznane za szkodliwe. Jednak dokładna analiza pokazuje, że w naszym obecnym paradygmacie komputerowym nie można zbudować takiego algorytmu.
„Jeśli rozłożymy problem na podstawowe zasadyz informatyki teoretycznej okazuje się, że algorytm, który mówiłby AI, by nie niszczyła świata, mógłby nieumyślnie zatrzymać własne działania. Gdyby tak się stało, nie wiedziałbyś, czy algorytm powstrzymujący nadal analizowałby zagrożenie i czy zatrzymałby je, aby zawierało złośliwą sztuczną inteligencję. Zasadniczo sprawia to, że algorytm powstrzymywania jest bezużyteczny ”- mówi Iyad Rahwan, dyrektor Center for People and Machines.
Na podstawie tych obliczeń problem powstrzymywania nie jest możliwy, to znaczy żaden algorytm nie jest w stanie znaleźć rozwiązania pozwalającego określić, czy sztuczna inteligencja zaszkodzi światu, czy nie.
Zobacz także:
Ministerstwo Zdrowia Argentyny ujawniło dane dotyczące skutków ubocznych osób, które otrzymały „Sputnik V”
Dziobak okazał się genetyczną mieszanką ssaków, ptaków i gadów
Aborcja i nauka: co stanie się z dziećmi, które będą rodzić