Стереотипният робот на Georgia Tech е бъдещето на AI, а не на расизма

За уши, чувствителни към специални програми след семинари и семинари за разнообразие, това ще звучи лошо, но искаме роботи да правят бързи преценки въз основа на външния вид. Преодоляването на предразсъдъците е добро, но неспособността за стереотип намалява интелигентността - изкуствена и по друг начин. Д-р Алан Вагнер, роботизатор в Georgia Tech, е главният защитник на технологиите за стереотипи. Той твърди, че този вид логика не трябва да се прилага към раса или пол, само с ситуации и поведение.

В ранния си тест на стереотипния си алгоритъм Вагнер обучи наивен робот, за да направи заключения от видяното. Роботът се научи и започна да се възприема, което позволи на Вагнер да започне да мисли критично за етиката на предположенията на роботите, особено на предварително програмираните. Той говореше обратен за неговата работа и нейните последици.

Разгледайте как работи експериментът.

Роботът взаимодейства с различни типове индивиди - пожарникар, ЕМТ или още нещо - но няма предишен опит с някоя от тези категории индивиди. Това е, основно, експериментално обучение.

Идеята беше да се покаже, че роботът може да използва възприятието от индивида, за да предвиди нуждите си от гледна точка на използването на инструмента. Начинът, по който работи алгоритъмът, камерата на робота ще възприема различни аспекти на това, което индивидът е изглеждал - техния еднороден цвят, например, дали имат брада, и техния цвят на косата.

Тя ще им зададе и въпроси за това как изглеждат. Разбира се, задаването на въпроси не е това, което искате да направите на терена, но възприятието на робота е толкова ограничено в момента. Нуждаехме се от начин да обуздаем процеса за изучаване на човек. Човекът ще избере инструмента, а след това роботът ще избере инструмента и с течение на времето роботът ще научи какъв инструмент предпочита всеки тип човек.

Очаквахте ли роботът да разбере, че значката означава полицейски служител или тежък отразяващ кожух означава пожарникар?

Ние го очаквахме. Но имаше и някои изненадващи неща.Например, роботът фалшиво призна, че брада е предсказана с пожарникар - това е странно, но когато погледнете данните, това не е изненадващо. Първите няколко души, които взаимодействаха с него, бяха пожарникари, които имаха бради. Затова ние твърдим, че има нужда от разбиране за възприятията, идеята, че ако роботът може да види големи, широко различни видове хора в една категория, той ще развие по-добре и разбере категорията.

Бихте ли казали, че автономните роботи трябва да бъдат обучени да изгладят тези странности, така че роботът няма да мисли, че ако този човек има брада, той е пожарникар?

Абсолютно. Много е важно да изгладим тези неща. От решаващо значение е да имаме тези роботи, които работят от различни хора.

Как може да изглежда това обучение?

Това ще позволи на робота да се съсредоточи върху неща, които по-добре характеризират пожарникарите. Например, пожарникар може дори да не носи яке. След това роботът ще забележи други аспекти на противопожарната дейност, може би ботушите, може би ръкавиците, може би каските. Щеше да каже: „Добре, този човек наистина е пожарникар в тази среда."

Ако имате достатъчно хора, той може да разпознае пожарникар при пожар срещу пожарникаря на парти на Хелоуин. Това са деликатни подробности за възприятията, като разликата между качеството на видовете униформи или контекстната среда.

Освен свързването на бради с пожарникари, колко успешен беше този алгоритъм?

Имаше две неща, които наистина искахме да погледнем: Едно, какво можеш да направиш с него? Ако роботи могат да разпознаят пожарникари, това наистина ли помага по някакъв начин? Документът показва, че това ви позволява да стесните търсенето. Вместо да гледате бради за цвят на косата, търсейки цвят на очите или каквото и да е друго, което може да търсите, можете да се съсредоточите върху функциите, които наистина са важни. Дали човекът носи палто на пожарникар? Това може да ускори процеса.

Друго наистина критично нещо, което разглеждахме, е, че ако категорията, която роботът предсказва, е грешна? Как това ви влияе? Можете да си представите, че средата за търсене и спасяване може да бъде хаотична: може би работите в запълнени от дим условия, роботът може да не е в състояние да възприема всичко много добре, може да има грешки. Може да си представите по-лош случай, когато роботът смята, че човекът е жертва, когато в действителност те са пожарникари. Така че се опитва да спаси пожарникар. Това би било ужасно. Искахме да видим къде се скъсва, как се счупва, какви функции го въздействат най-много и какви са различните видове грешки.

Можете да използвате този подход по различни начини - ако не могат изобщо да видят човека, но могат да видят действията, които правят. Ако мога да видя човека, който избира брадва, тогава мога да предскажа, че имат каска.

Как подхождате към това робот да прецени контекста и да направи прогноза?

Опитахме се да погледнем няколко различни вида среди - ресторант, училище и старчески дом. Опитахме се да уловим характеристиките на околната среда и какви обекти са в околната среда, какви действия е подбрал човекът и как изглеждат хората в околната среда и да се опитаме да го използваме, за да направим много социални прогнози. Например в училищна среда хората вдигат ръце, преди да говорят. Така че, ако виждам действията, които хората вдигат, какви обекти ще очаквам да видя в околната среда? Очаквам да видя дъска; очаквам ли да видя бюро? Очаквам да видя деца.

Надеждата е да се използва тази информация. Ако роботът изпълнява евакуационна процедура, той ще види какви хора са там и къде могат да бъдат.

Да кажем, че има робот, който идва при вратата ви и казва: "Моля, последвайте ме до изхода." Нещо като на пръв поглед просто нещо, което всъщност е много сложно. Ако робот почука на врата в жилищна сграда, нямате представа с кого ще взаимодействате. Може да е четиригодишно дете, може да е 95-годишен човек. Ние бихме искали роботът да приспособи своето интерактивно поведение към вида на човека, който вижда, за да ги спаси. Взимаме някои от тези контекстуални уроци и се опитваме да разработим това приложение.

Използвате ли подобна дефиниция за „стереотип“ за роботи и хора или има нещо друго?

Терминът стереотипизиране има отрицателен контекст. Начинът, по който го използваме, е просто да се разработят категории хора и да се използва категорична информация за прогнозиране на характеристиките на даден човек. Знам в психологията, много работа се фокусира върху стереотипите на лицето и стереотипите за пола. Не правим нищо подобно. Същият процес ли е? Не знам. Никаква идея.

Разтревожени ли сте, че хората могат да имат погрешни схващания за вашата работа?

Преди няколко години ние разработихме тази идея за роботи, които могат да заблудят хората. В медиите имаше малко погрешно схващане, че това ще доведе до кражби на хора в портфейлите на хората.

Бих искал да използвам ситуацията за спешна евакуация: не винаги искате да бъдете напълно честни с човек в евакуация, нали? Например, ако някой ви попита: „Моето семейство ли е наред?“ Може да е ужасно, ако роботът каза: „Не, всички са умрели. Моля, последвайте ме до изхода. ”Има някои ситуации, в които роботът наистина трябва да бъде нечестен. Но опитът ми беше, че хората се чувстват така, сякаш се опитваме да доведем до края на света.

Ние винаги се интересуваме от про-социалните аспекти на тези техники за човешки робот. Опитваме се да помогнем на хората, а не да бъде нещо лошо.