У класичному експерименті психологів Фелікса Варнекена та Майкла Томаселло над людським соціальним
Потім відбувається щось дивне:малюк пропонує допомогу. Виявивши мету людини, малюк підходить до шафи і відкриває його дверцята, дозволяючи чоловікові помістити всередину свої книги. Але як малюк з таким обмеженим життєвим досвідом може зробити такий висновок?
Нещодавно комп'ютерні вчені перенаправили це питання на комп'ютери: як машини можуть робити те ж саме?
Критично важливим компонентом для формуваннятакого розуміння є помилки. Подібно до того, як малюк може зробити висновок про мету людини тільки на підставі його невдач, машини, які визначають цілі людини, повинні враховувати наші помилкові дії і плани.
У прагненні відтворити цей соціальний інтелектв машинах дослідники з Лабораторії комп'ютерних наук і штучного інтелекту Массачусетського технологічного інституту (CSAIL) і Департаменту мозкових і когнітивних наук створили алгоритм, здатний визначати цілі і плани, навіть якщо ці плани можуть зазнати невдачі.
Цей тип дослідження в кінцевому підсумку може бутивикористаний для поліпшення ряду допоміжних технологій, роботів для спільної роботи або догляду, а також цифрових помічників, таких як Siri і Alexa.
«Агент» і «спостерігач» демонструють, як новийалгоритм MIT здатний визначати цілі і плани, навіть якщо ці плани можуть зазнати невдачі. Тут агент становить помилковий план досягнення синього дорогоцінного каменю, який спостерігач вважає за можливе. Надано: Массачусетський технологічний інститут.
«Ця здатність враховувати помилки може мативирішальне значення для створення машин, які надійно роблять висновки і діють в наших інтересах, - пояснює Тан Чжі-Сюань, доктор філософії, студент Массачусетського технологічного інституту (MIT) і провідний автор нової статті про дослідження. - В іншому випадку системи ШІ можуть помилково зробити висновок, що, оскільки ми не змогли досягти наших цілей більш високого порядку, ці цілі в кінці кінців були небажаними ».
Для створення своєї моделі команда використовувалаGen, нову платформу програмування ІІ, недавно розроблену в MIT, для об'єднання символічного планування ІІ з баєсове виведення. Байєсівський висновок забезпечує оптимальний спосіб об'єднання невизначених переконань з новими даними і широко використовується для оцінки фінансових ризиків, діагностичного тестування і прогнозування виборів.
При створенні алгоритму «Послідовний пошукзворотного плану (SIPS) »вчених надихнув загальний спосіб людського планування, який в значній мірі неоптимальний. Людина може не планувати все заздалегідь, а скоріше формувати часткові плани, виконувати їх і, виходячи з нових результатів, знову будувати плани. Хоча це може привести до помилок через недостатнє обмірковування «заздалегідь», такий тип мислення знижує когнітивну навантаження.
Вчені сподіваються, що їхнє дослідження закладенові філософські та концептуальні основи, необхідні для створення машин, які справді розуміють людські цілі, плани та цінності. Новий базовий підхід моделювання людей як недосконалих мислителів здається інженерам дуже перспективним.
Читати також
В Андах знайшли 20 нових видів тварин і рослин
У космосі є магістралі для швидких переміщень. Як зміняться польоти?
Названо рослина, якому не страшно зміна клімату. Їм харчується мільярд чоловік