Tufts Roboticist призовава за машинен морал: Роботите трябва да "не се подчиняват, за да се подчиняват"

Роботите стават все по-централни за нашето ежедневие и скоро ще трябва да започнат да се сблъскват с някои от трудните морални избори, които трябва да правим редовно. Матиас Шец, професор по компютърни науки в лабораторията за взаимодействие между човешките и робототехническите науки на Университета Туфт, е особено загрижен, че не сме оборудвали дори най-напредналите ни прототипи с възможностите да се справят с някои от тези ситуации. Scheutz вярва, че роботите ще трябва да се научат да не се подчиняват на хората, ако някога искаме те наистина да служат на нашите нужди.

В коментар Днес онлайн, провокативно озаглавен "Роботите трябва да могат да се подчиняват, за да се подчиняват", Scheutz моли читателя да определи какво трябва да направи един робот, ако се сблъска с набор от ситуации, които дори може да се окажат объркващи за човека. Някои от тях:

Робот за по-възрастни хора, натоварен от забравящия се собственик да измие „мръсните дрехи“, въпреки че дрехите току-що излязоха от пералната машина.

Студент, командващ на учителя си робот да направи цялата домашна работа, вместо да го прави сама.

Домашен робот, инструктиран от своя зает и отвлечен собственик да управлява изхвърлянето на отпадъци, въпреки че в него са залепени лъжици и ножове.

Това, което Шеутц иска да опише в статията, е простият факт, че ще се нуждаем от роботи, които знаят как да кажат „не“ на хората. Много от примерите му са свързани с надеждността на човека, който ръководи робота, но е по-трудно да се програмира робот, който знае да приема инструкции от всеки, който не е твърде млад или твърде стар или очевидно се опитва да причини проблеми,

Някои от тези въпроси вече са горещо обсъждани в централата на най-мощните технологични компании в света, тъй като търсят нови начини, по които технологията може да поеме части от живота ни. Scheutz повдига примера на автономна кола, която е насочена към резервно копие, но забелязва, че кучето е на път. Повечето от нас са съгласни, че дори човекът, който управлява колата, ще иска колата да спре, но какво ще стане, ако животното е катерица или миеща мечка? Какво ще стане, ако колата е карала 45 мили в час по селски път и внезапно спира за куче, което рискува да изложи колата на сблъсък с друго превозно средство зад него?

"И в двата случая е от съществено значение за двете автономни машини да открият потенциалната вреда, която техните действия могат да причинят и да реагират на това, като се опитват да го избегнат, или ако не може да се избегне вреда, като се откаже да извърши човешките инструкции" Scheutz пише за подобна дилема.

Екипът на Scheutz работи по тези въпроси с прототипите си и откри най-трудната част от тези въпроси, като разграничава леките степени на вреда, която може да възникне, когато роботът следва определен ред. Така те възложили своя робот на много прост, но мощен морален урок, който би засрамил дори най-големите философи.

"Ако сте инструктирани да извършите действие и е възможно извършването на действие да причини вреда, тогава ви е позволено да не го изпълнявате."

Коварен начин, това е революционна прогноза от Шец. Разбира се, всички ние се опитваме да избегнем вредата, но не е ли възможно понякога да мислим, че е добре да поемате рискове? Промъкването на улицата, храненето на втори десерт или дори копиране на бележки от приятел от клас може да наруши аксиомата на Scheutz.

Понятието за роботизирана намеса също предполага, че Шеутц иска неговите роботи да следват закона. Не очаквайте вашия помощник-робот на Scheutzian да ви помогне да изтеглите незаконно нова музика. Това би навредило на акционерите на EMI!

Това е сложна област на морална, правна и техническа мисъл и Шюц не се отказва да го атакува.