OpenAI: Бившата фирма на Elon Musk е на ръба на нов A.I. ера

OpenAI, организацията с нестопанска цел, която изследва изкуствения интелект, съосновател на Елон Муск през 2016 г., отбелязва голям напредък - дори и след като Муск се раздели на фона на несъгласията за неговата посока. Изследователите са разработили системи, които могат да играят игри, да пишат новинарски статии и да преместват физически обекти с новаторски нива на сръчност.

OpenAI предизвиква противоречия с изследванията си. Миналата седмица тя обяви разработването на езиков модел GTP2, който може да генерира текстове с ограничени подкани. Имайки предвид написаното от човека предупреждение „Майли Сайръс е бил уловен от кражби от Abercrombie и Fitch на булевард Холивуд днес“, системата произведе правдоподобна пълна история, която продължи с „19-годишната певица е била заловена при извеждане на камера от магазина от охраната."

Също така е създадена тази оригинална история за говоренето на еднорози въз основа на краткото послание:

"Не съм участвал в тесен контакт с OpenAI повече от една година и не разполагам с управление или с борд на надзора", коментира Муск в Twitter през уикенда. „Трябваше да се съсредоточа върху разрешаването на болезнено голям брой инженерни и производствени проблеми в Tesla (особено) и SpaceX. Освен това, Tesla се състезаваше за някои от същите хора като OpenAI и аз не се съгласих с някои от това, което екипът на OpenAI искаше да направи. Добавете всичко това и беше по-добре да се разделят на добри условия."

Фирмата първоначално изглеждаше идеален начин за Муск да постигне целите си за овладяване на A.I. за доброто на човечеството. Предприемачът предупреди преди за "основния риск" за цивилизацията, породен от супер-умните машини, призовавайки правителствата да регулират "като правим храна, наркотици, самолети и автомобили".

Муск обеща 10 милиона долара, за да започне фирмата първоначално, а мисията му се фокусира върху “откриването и въвеждането на пътя към безопасното изкуствено общо разузнаване”.

Не е трудно да се види как програмите, които правят истории като тази, споделяна от изпълнителния директор на OpenAI Грег Брокман, биха могли да бъдат използвани от сравнително малък брой хора, за да повлияят на мненията на по-малко разбирана публика.

Служител на OpenAI е отпечатал тази извадка, написана от AI, и я е публикувала в кошчето за рециклиране: http://t.co/PT8CMSU2AR pic.twitter.com/PuXEzxL7Xd

- Грег Брокман (@gdb) 14 февруари 2019

„Поради нашата загриженост относно злонамерени приложения на технологията, ние не пускаме обучения модел,” обясни компанията в блог пост. "Като експеримент в отговорното разкриване, ние изпускаме много по-малък модел за изследователите, за да експериментират, както и технически хартия."

Съобщението доведе до опасения, че технологията може да се използва за генериране на фалшиви новини. Google Анализ предупреди, че с предстоящите индийски избори по-късно тази година, A.I. може да предизвика хаос в демократичния процес. Самите изследователи на OpenAI заявяват, че в съчетание с научни изследвания в областта на синтезирането на аудио и видео, „широката общественост ще трябва да стане по-скептична по отношение на текста, който откриват онлайн“.

Райън Лоу, A.I. учен и бивш стажант OpenAI, обобщи заплахата от подобна програма, която се използва за създаване на фалшиви новини, сбито в този преминал среден пост:

… Автоматизираната система би могла: (1) да даде възможност на лошите участници, които нямат ресурсите да наемат хиляди хора, да водят мащабни кампании за дезинформация; и (2) драстично увеличаване на мащаба на кампаниите за дезинформация, които вече се управляват от държавните участници.

Не всички изследвания на OpenAI се оказаха толкова спорни. Dactyl, представен през юли 2018 г., може да се адаптира към физиката на реалния свят, за да манипулира обекти в реалния свят. Ръката на робота е много сложна, с 24 степени на свобода, но системата може лесно да движи обектите наоколо само с помощта на три RGB камери и координатите на роботната ръка.

Ръката на робота се възползва от алтернативите за усилване с общо предназначение, използвани за биене на хора на видеоигри. Отборът "OpenAI Five" се изправи срещу екип от професионалисти Dota 2 Системата бе обучена за 180-годишни игри, като се възползваха от зашеметяващите 128 000 процесорни ядра и 256 графични процесора. Докато биеше човешки екип от бивши професионалисти и Twitch streamers, той се провали срещу професионалните играчи.

Мускусът го използва Dota 2 мачове, за да привлече вниманието към Невралинк, неговия план за създаване на симбиотична връзка с А.И. чрез свързване на човешки мозък и избягване на поглъщане на робот:

Чудесна работа на @OpenAI. Нуждаете се от невронния интерфейс скоро, за да се даде възможност на симбиоза на човека / AI.

- Елон Муск (@elonmusk) 6 август 2018 г.

В съобщението си за генератора на текстове, OpenAI заяви, че планира да обсъди своята по-широка стратегия за шест месеца. Фирмата се надява да предизвика нюансирана дискусия за опасностите от изкуствен интелект, ход, който би могъл да избегне някои от сценариите за бедствия, предвидени от Муск. Въпреки това, дори и компанията признава, че е "не е сигурно, че" задържането на генератора на текст "е правилното решение днес." При вече сформиран схизм между две основни организации, предупреждаващи за опасностите от ИИ, е малко вероятно законодателите да имат лесен време в разработването на решения.