Проектът OpenAI на Elon Musk идентифицира 4 големи проблема за AI

Повечето от проблемите, които биха могли да произтекат от все по-усъвършенствания изкуствен интелект, са много по-фини от SkyNet, но това не означава по-умни A.I. не идва без рисковете.

Ето защо Елон Муск и други силиконови долини създадоха Open AI, група, посветена на решаването на проблеми с A.I. преди да успеят да причинят реални щети. Тази група се нарича OpenAI и търси помощ по тези въпроси.

„OpenAI е изследователска компания с нестопанска цел за изкуствен интелект“, казва групата на своята страница за About. "Нашата цел е да усъвършенстваме цифровото разузнаване по начин, който най-вероятно ще бъде от полза за човечеството като цяло, без да се ограничава от необходимостта от генериране на финансова възвръщаемост."

Поставянето на обява за работа, маскирано като публикация в блога, озаглавена „Специални проекти“, очертава четири такива „проекта“ като проблеми, които имат „или много широки последици“, или които се отнасят до „важни нововъзникващи последици от развитието на изкуствения интелект“. И после неговите писатели - Иля Суцкевер, Дарио Амодеи и Сам Алтман - канят всички силни експерти по машинно обучение да „започнат усилие по един от тези проблеми в OpenAI.” Просто подайте заявка, питат те. Ето тези четири големи проблема с изкуствения интелект:

Намиране на скрити системи за изкуствен интелект.

Какво е по-лошо от един много умен А.И. което може да се използва за грешна цел? Много умен А.И. които вече са използвани за грешна цел, без никой да знае. "С увеличаването на броя на организациите и ресурсите, предназначени за изследване на ИИ, вероятността нараства, че една организация ще направи неразкрит пробив в ИИ и ще използва системата за потенциално злонамерени цели", пише в блога си. - Изглежда важно да го открием. Можем да си представим много начини да направим това - гледайки новините, финансовите пазари, онлайн игрите и т.н. ”

Изграждане на A.I. които могат да програмират.

Някои от най-добрите програмисти са мързеливи. Така че има смисъл, че OpenAI иска да създаде A.I. самостоятелно създават програми. По-добре да прекарват времето си в правенето на A.I. достатъчно умен, за да кодира всичко, от което се нуждаете в бъдеще, отколкото сами да кодирате всички тези неща. Това е 2016 г., за да викаш силно, а кодерите се нуждаят от почивка!

Използване на A.I. за киберзащитата.

"Ранното използване на AI ще бъде да се пробие в компютърните системи", пише OpenAI. "Бихме искали AI техники да се защитават от сложни хакери, които използват тежки методи за изкуствен интелект." Това звучи добре, особено след като MIT предупреди, че текущата A.I. разчита на хората за защита срещу кибератаки.

Извършване на наистина сложни симулации.

„Ние се интересуваме от изграждането на много голяма симулация с много различни агенти в нея, които могат да си взаимодействат помежду си, да се учат за дълъг период от време, да откриват език и да постигат богато разнообразие от цели“, пише екипът на OpenAI.

О хайде. Сега вие просто се опитвате да докажете, че Муск е прав за нас, живеещи в симулация.