AI По-добре на компромис от хората, намира ново проучване

Нека си го кажем. Откакто изкуственият интелект за първи път е сънувал, хората се страхуват от деня, в който нашите владетели на ИИ поемат. Но някои изследователи изпитват способността на изкуствения интелект не само състезавам се с човечеството, но и към сътрудничим.

В проучване, публикувано в четвъртък в Nature Communications екип от преподаватели по компютърни науки, Jacob Crandall и Michael Goodrich, заедно с колеги от MIT и други университети, създадоха алгоритъм за обучение на машините за сътрудничество и компромис.

Изследователите програмирали машините с алгоритъм, наречен S #, и ги прекарвали през няколко игри с различни партньори - машинна машина, човек-машина и човек-човек - за да проверят кои двойки биха довели до най-много компромиси. Оказва се, че машините (или поне тези, които са програмирани с S #) са много по-добри при компромис от хората.

Но това може да каже повече за „човешките недостатъци“, казва водещият изследовател Джейкъб Крендъл обратен, "Нашите човешки участници са имали склонност да бъдат нелоялни - те биха дефектирали в средата на кооперативна връзка - и нечестни - около половината от нашите участници са избрали да не следват своите предложения - в някакъв момент от взаимодействието."

Машините, които бяха програмирани да ценят честността, от друга, бяха честни. „Този ​​конкретен алгоритъм научава, че моралните характеристики са добри. Той е програмиран да не лъже, а също така се научава да поддържа сътрудничество, когато се появи, ”казва Крендъл.

Освен това проучването установи, че някои стратегии за сътрудничество са по-ефективни от други. Едно от тях беше „евтино говорене“, прости вербални сигнали, които отговарят на дадена ситуация, като „Сладко. Ние ставаме богати! ”Или„ Приемам вашето последно предложение. ”Или, за да изразя недоволство,„ Прокълни те! ”„ Ще платиш за това! ”Или дори„ В лицето ти! ”

Независимо от това какъв тип игра се играе или кой играе, евтиният разговор удвоява размера на сътрудничеството. Той също така е хуманизирал машините, като човешките играчи често не са могли да разберат дали са взаимодействали с машина или човек.

Тъй като фокусът на това изследване е върху тестването на алгоритъма S #, един недостатък на изследването е, че той не взема под внимание културните различия между хората, които могат да повлияят на това как различните човешки популации могат да използват или тълкуват стратегии като евтини разговори или как много хора могат да се включат в измама или нелоялност.

В крайна история в книгата на Исак Азимов Аз, Робот - “The Evitable Conflict” - владетелите на ИИ всъщност поемат планетата. Но тъй като те са толкова разумни и програмирани с някои нечувствителни етични правила, това е добро за човешката раса. И както показва това изследване, тъй като човешките взаимодействия са объркани и сложни, може би можем да се доверим на машини. Ако приемем, разбира се, ако те са били програмирани за честност.

Анотация:

Тъй като Алън Тюринг предвижда изкуствен интелект, техническият прогрес често се измерва с възможността да се победят хората при срещи с нулева сума (например, шах, покер или отида). По-малко внимание е отделено на сценариите, в които сътрудничеството човек-машина е полезно, но нетривиално, като например сценарии, при които предпочитанията на хората и машините не са нито напълно съгласувани, нито напълно конфликтни. Сътрудничеството не изисква чиста изчислителна сила, а вместо това се улеснява от интуиция, културни норми, емоции, сигнали и предварително развити разположения. Тук разработваме алгоритъм, който съчетава съвременен алгоритъм за усилващо обучение с механизми за сигнализиране. Ние показваме, че този алгоритъм може да си сътрудничи с хора и други алгоритми на нива, които съперничат на човешкото сътрудничество в разнообразни двукратни стохастични игри. Тези резултати показват, че общото сътрудничество човек-машина е постижимо чрез използване на нетривиален, но в крайна сметка прост набор от алгоритмични механизми.