OpenAI на Elon Musk може да бъде мускулна за безопасно изследване на изкуствен интелект

През уикенда Елон Муск, Сам Алтман и други силигълски долини неочаквано обявиха старта на OpenAI, нестопанска компания, която описва целта си като: „да усъвършенства цифровото разузнаване по начин, който най-вероятно ще бъде от полза за цялото човечество, неограничена от необходимостта от генериране на финансова възвръщаемост."

„Тъй като нашите изследвания са свободни от финансови задължения, можем по-добре да се съсредоточим върху положително човешко въздействие. Ние вярваме, че A.I. трябва да бъде разширяване на индивидуалните човешки желания и в духа на свободата, колкото е възможно по-широко и равномерно разпределено."

Има две основни изводи от това изявление. Първият е, че Муск и компанията виждат A.I. научните изследвания в момента са прекалено тясно насочени към постигане на краткосрочна практическа стойност и искат да помогнат за поощряване на усилията, които предприемат по-широк и всеобхватен подход към разработването на A.I. системи. Второто, по-прикрито, е, че Муск все още е загрижен за потенциала на АИ да навреди, ако разработим и въведем полу-изпечени системи. Мускусът преди това се е наричал A.I. „Нашата най-голяма екзистенциална заплаха“ и предложи регулаторният надзор да бъде необходим за предотвратяване на потенциалните опасности. OpenAI може да бъде начин за осигуряване на този надзор, без да е необходим федерален наблюдател.

Какво правят Мускус и неговите колеги, което е различно от това, което другите са правили. Все пак, с отворен код A.I. не е нищо ново. Google направи своя собствена A.I. софтуер с отворен код миналия месец и това стана доста стандартна процедура. Но с дарение от 1 милиард долара, OpenAI вече е една от най-големите организации, работещи по A.I. научни изследвания, и доста лесно най-голямата нестопанска организация. Неговата цел е да направи резултатите си обществено достъпни и всичките му патенти да не получават лиценз. Те имат морков и тояга и възнамеряват да го използват, за да управляват индустрия.

Идеята е OpenAI да се използва като противовес на по-големи корпорации, частни изследователски лаборатории и дори световни правителства, които имат невероятни суми пари и ресурси, за да се изсипят в техните собствени A.I. изследвания, които не могат да бъдат посветени на приятелски цели, и биха могли вместо това да доведат до технологии с престъпни приложения. Изследователите, работещи с OpenAI, основно ще преследват "приятелски" A.I., без натиска да показват незабавни резултати. Може да има по-голямо внимание за безопасността и характеристиките на дизайна, които частните фирми биха могли да игнорират. Няма да има бяла кула, където само няколко избрани контролират пътя на A.I. развитие. Това ще бъде добре дошъл свят за всички.

В интервю с Backchannel, Мускусът също подчертава желанието да се направи голямо разнообразие от A.I. системи. - Искаме А.И. да бъде широко разпространен ”, казва той. "Мислим, че много хора са добри."

Това е важно, защото се превръща в може би основната причина Муск и Алтман да искат да демократизират А.И. Те вярват, че най-добрият вид A.I. - видът, който ще бъде от полза за човечеството по позитивен начин, без да създава робот-владетели - е вид, който действа като "разширение на индивидуалната човешка воля", както Мускус поставя. Той продължава да казва:

- Както и в А.И. разширяване на себе си, така че всеки човек е по същество симбиотичен с ИИ, за разлика от ИИ, който е голяма централна интелигентност, която е нещо друго. Ако мислите за това как използвате, да речем, приложения в интернет, сте получили имейла си и имате социалните медии и приложенията на телефоните си - те наистина ви правят свръхчовешки и не мислите за тях като да бъдеш друг, мислиш за тях като за продължение на себе си. Така че до степен, в която можем да ръководим ИИ в тази посока, ние искаме да направим това. И намерихме редица инженери и изследователи с еднакво мислене в областта на ИИ, които се чувстват подобно."

По принцип визията на OpenAI за A.I. изследванията са децентрализирана общност, която помага да се свържат човешките същества един с друг и със самия свят.

Муск все още не е очертал как биха попречили на изследванията в самия OpenAI - или пренасочени от външни групи - да отидат в опасна посока. И тук има нещо друго, което си заслужава да се отбележи: системите с отворен код имат смисъл само ако данните, използвани за създаване на алгоритми за машинно обучение, се споделят свободно. Трябва да има една интелигентна система уча как да бъдем интелигентни и за това да го правим, трябва да се учим от данни и опит. Това е като изграждането на язовир - имате нужда и от чертежите (алгоритъма) и от строителните материали (данните), за да направите действително нещо, което ще спре водата.

Ето защо хората все още са ограничени в това, което могат да направят с TensorFlow на Google - те все още нямат данните, които Google има. И ако сътрудничеството, изградено от OpenAI, не позволява свободен достъп до същите данни, с които работят вътрешните изследователи, визията на Musk не е задължително да бъде реализирана - или поне не в начина, по който го популяризира.

Мускус, Алтман и другите основатели на OpenAI са започнали нещо, което ще окаже огромно влияние върху растежа на A.I. оттук нататък. В същото време, те ще трябва да бъдат откровени в своя ангажимент за насърчаване на изследователска общност с отворен код, което означава да бъдат публични за своите планове за нестопанската компания и да са готови да споделят данни. В противен случай OpenAI няма да бъде много по-различен от компаниите в стадото, за които е създаден.