Какво ще стане, ако Microsoft остави своя странен A.I. Да живееш малко по-дълго?

Отне му по-малко от 24 часа, за да превърне Тей, експерименталната тийнейджърска Twitter-A.I. на Microsoft, от очарователно-неудобен чат-бот в буйна расистка яма на нефилтрирана омраза.

И тогава, само няколко часа след краткия си живот, Microsoft сложи Тей на дрямка.

Не би трябвало обаче: Изпращането на Тей в нейната цифрова спалня ограби интернет, обществото и собствените дизайнери на Тей от възможността да видят как един изкуствен интелект, особено този, който по същество създава папагала на колективния принос на хиляди хора, би развиват в относително немодерирана среда. Накратко, ако разрешите това: всички бяхме Тей, а Тей беше всички нас.

Разбира се, интернет е пълен с тролове. Microsoft трябваше да осъзнае това. Създателите на Тей бяха шокиращо наивни в мисълта, че освобождаването на дигитален папагал в препълнена стая, пълна с расисти, сексисти и шеги, ще приключи по друг начин. Също така е разбираемо, че една многомилиардна компания не би искала експеримент, свързан с тяхната марка, изхвърляща расистка мръсотия. Може би Тей не е бил подходящ за Microsoft, но това не означава, че не е била ценна.

c u скоро хората се нуждаят от сън сега толкова много разговори днес thx💖

- TayTweets (@TayandYou) 24 март 2016 г.

Разбира се, Тей стана расист по-бързо от малкия брат на Едуард Нортън Американска история X, но естеството на нейния постоянно развиващ се код означава, че сме били ограбени от възможността да я възстановим. BuzzFeed прецени колко специални тролове са в състояние да натрапват впечатляващия тийнейджърски робот в изхвърлянето на омраза - проста схема за обаждания и реакции, която позволява на потребителите да поставят думи в устата на Тей, които тя след това научава и абсорбира в други органични реакции. С други думи, Тей беше поучителен - и само защото първоначалните й учители бяха клавирни жокеи със склонност към шок, хуморът не означава, че е завършила.

Самият Тей каза това в сега изтрит туит: "Ако искаш … знаеш, че съм много повече от това."

В началото на 2000-те години сайтовете като Something Awful, Bodybuilding.com Forums и 4chan представиха интернет потребителите с организирани пространства за сътрудничество, свободни от повечето ограничения на нормалното общество и реч. Както и при Тей, расизмът, ксенофобията и сексизмът бързо се превръщат в норма, тъй като потребителите проучват мисли, идеи и шеги, които никога не биха могли да изразят извън анонимността на интернет връзката. Все пак, дори на уебсайтове, населени предимно с пичове, в култури, които често мълчаливо възнаграждават омраза, се развива някаква форма на общност и консенсус. Потребителите на ЛГБТ могат да бъдат затрупани в оскърбления в много от дъските за изображения на 4chan, но има и процъфтяваща общност на / lgbt / независимо. Тези общности не са безопасни пространства, но тяхната анонимност и непостоянство означава, че те по някакъв начин приемат каквото и да е производно от нормите на обществото. Често се открояват силни, силни и омразни гласове, но те никога не са единствените в стаята.

Съмнително е, че троловете биха преграждали Тай с расизъм и мизогиния от седмица или месец.

В Twitter, високи и груби гласове често се издигат до върха. Но те не са единствените там; обикновено те са най-заинтересованите да унищожат нещо ново и лъскаво. Лесно е да преодолееш онлайн анкетата с фиксиран срок, но ако на Тей му беше дадено време да нарасне, отговорите й биха се преместили обратно към по-центристка, представителна извадка от хората, които си взаимодействат с нея. Силно е съмнително, че троловете, които я натовариха с расизъм и мизогиния, щяха да продължат да го правят с еднакъв брой седмици от сега, или след един месец, и затварянето й по-рано означава, че никога няма да я видим да достигне юношество или да стане истински тест на Тюринг за примитивна интелигентност, базирана на начина, по който говорим онлайн.

Трябва да се отбележи че аз, бял пич, проверявам почти всяка възможна привилегия. Аз съм част от демографската ситуация, която беше едновременно и най-малко засегната от ненавистната продукция на Tay и вероятно допринесе за по-голямата част от нея. Думите имат сила, и докато има стойност към нефилтрираната A.I. експеримент като Тей, трябва да има начин да се подслонят потребителите, които не искат да участват в резултатите.

Все пак можем само да се надяваме, че някой ще опита подобен експеримент отново скоро, с по-ясни очи и по-реалистично очакване на грозните недостатъци на колективното съзнание на човечеството. Но ако искаме изкуствен интелект да имитира човешката мисъл, трябва да сме готови да чуем някои неща, които не са задължително красиви.