Как Новият център на UC Berkeley може да предотврати един A.I. апокалипсис

Калифорнийският университет в Бъркли просто добави името си към все по-голям списък от уважавани институции, които работят за предотвратяване на злонамерен изкуствен интелект от унищожаване на човечеството. Новият център за изкуствен интелект, съвместим с човека, обявен в понеделник, има за цел да гарантира, че A.I. остава от полза, а също и да изключи възможността за A.I. апокалипсис.

Собствената A.I. Експерт, професор Стюарт Ръсел, ръководи предприятието. Проектът „Отворена филантропия“ предостави на Центъра безвъзмездна финансова помощ в размер на 5,5 милиона долара, а други - също. Няколко други експерти от университета в Бъркли, Корнел и Мичиганския университет ще служат като главни изследователи.

Според професор Корнел Барт Селман обратен за Центъра, A.I.s, че ние Трябва страх и защо светът вероятно не е тръгнал в ада в ръчен кош - все още.

Какво се надявате да постигнете с Центъра за човешко съвместимост A.I.?

Тези центрове са сравнително ново развитие. Хората правят инвестиции - например Институтът за бъдещето на живота има инвестиция от Елон Муск, от Тесла - за справяне с въпросите за бъдещето на живота и възможните заплахи за бъдещето на живота и обществото. Новият център в Бъркли е друг пример за такъв институт.

Тя е вдъхновена от променящата се роля на изкуствения интелект и компютрите в нашето общество. Тези технологии се движат в нашето общество и ще окажат влияние върху нас. Тези институти са там, за да съберат учените заедно, за да проучат възможните отрицателни въздействия, или как да се уверят, че няма отрицателни въздействия.

Самото заглавие на Центъра предполага, че A.I. и човечеството по своята същност е несъвместимо. Това ли е вашето мнение?

Това е първата реакция на хората, че тези неща могат да бъдат несъвместими. Ние всъщност вярваме, че с правилните предпазни мерки и правилните насоки и изследвания, можем наистина да приведем интересите си и да се уверим, че тези технологии са полезни. А.С. Технологията има огромни положителни страни и целта на обществото е да се увери, че ще останем на позитивните страни. Изследователите, участващи в института, смятат, че това е възможно.

Ако можете да възприемете перспективата на дуосайър, какъв би бил най-вероятният сценарий на съдбата, предизвикан от A.I.?

Ясен риск би бил военно развитие на изкуствен интелект, който би могъл да доведе до надпревара в оръжия между страните: автономни оръжия, автономни дронове, които следват свои собствени команди, разработени от различни страни, които са враждебни един към друг. Това е най-конкретният риск, който виждам. Мисля, че A.I. разработена за автомобили със самостоятелно управление, например - за редовни роли в обществото - ще бъде много полезно. Но военният аспект е тревожен компонент.

Това вече ли е трудна битка?

Страните всъщност разглеждат този въпрос. В известен смисъл, това е трудна битка: военните настояват да развият А.И. технология. Но имаше споразумения - например, биологичните оръжия е може би най-известният случай - в някои страни страните решиха, че това ще бъде от полза за всички държави не да се разработят биологични оръжия в голям мащаб. Надяваме се, че страните ще разберат, че негативният фактор за всички е твърде голям, за да влезе във всеобхватния A.I. надпревара във въоръжаването.

Ако и двете страни развият тази технология, никой няма напред.

Има ли нещо друго, което трябва да знам за Центъра, или за злонамерени А.И. общо взето?

Важно е да се даде положителна страна. Лесно е да се наблегне на рисковете - и, разбира се, това е отчасти, защо тези центрове са установени - но също така е важно да се отбележи, че много изследователи смятат, че този риск е управляем и че възходът ще бъде огромен.

Вие вече дадохте перспективата на съдния ден. Какви са потенциалните положителни ползи от A.I. за какво наистина се вълнувате?

Положителните страни ще бъдат общество, в което ние се подпомагаме от тази технология. Едновременен превод на реч - между китайски и английски, например - където хората могат просто да разговарят, сякаш говорят на роден език, един с друг по света. Грижи за възрастни хора: Хората могат да останат толкова дълго, колкото искат в дома си, защото имат робот-помощник в домакинството, който им помага да живеят самостоятелно.

Това вероятно ще окаже драматично въздействие върху живота като цяло - що се отнася до заетостта и това, което ние определяме като приоритетни.

Да. Дебатът по заетостта е нещо като отделен дебат. Ще има достатъчно ресурси, за да подкрепим всички, така че има въпрос как да гарантираме, че всички ще се възползват от тези развития. Ще има повторно осъзнаване на това какво означава да се работи, каква работа ще правят хората. Но по принцип хората ще имат повече свобода и повече време да извършват дейности, които обичат да правят, защото машините ще помогнат с много други, по-светски, работа тип неща. Ще отнеме известно време, но ние вярваме, че обществото ще се адаптира и бавно ще включи тези промени.

Това интервю е редактирано за яснота и краткост.