Защо все още вярваме на Amazon? Как големите гиганти не успяват да защитят обществото

Amazon може би е очаквала много обществено внимание, когато обяви къде ще създаде новата си централа - но като много технологични компании наскоро вероятно не е очаквала колко негативен ще бъде отговорът. В избраните от Амазония територии на Ню Йорк и Вирджиния местните политици се отказаха от обещаните на компанията намерения, финансирани от данъкоплатците. Журналистите от целия политически спектър размишляваха за сделките - и социалните медии се допълваха от гласовете на нюйоркчани и виргинците, обещаващи съпротива.

По същия начин разкритията, че Facebook използва антисемитските теории за конспирация, за да подкопае легитимността на критиците си, показват, че вместо да се променя, Facebook би предпочел да започне офанзивата. Дори когато Amazon и Apple видяха своите стойности на фондовата борса за кратко време над $ 1 трилион, технологичните ръководители бяха изтеглени пред Конгреса, се опитваха да възприемат последователно позицията си в омразата, бяха хванати да прикриват сексуални нарушения и видяха собствените си служители да протестират срещу бизнес сделки.

В някои кръгове това се разглежда като загуба на обществено доверие в технологичните фирми, които обещаха да преработят света - социално, екологично и политически - или поне като разочарование от начина, по който тези компании са променили света. Но технологичните компании трябва да направят много повече от възвръщане на доверието на обществеността; те трябва да докажат, че са го заслужили на първо място - които, когато са поставени в контекста на историята на технологичната критика и скептицизъм, не са.

Встрани от проблемите

Големите технологични компании използваха за проектиране своите проекти в смътно утопичен, позитивно звучащ жаргон, който замъглява политиката и обществената политика, надминавайки партизанството и - удобно - да избягва вниманието. Google напомняше на работниците си: „Не бъди зъл.“ Facebook работи за „да направи света по-отворен и свързан“. Кой може да възрази срещу тези идеали?

Учените предупредиха за опасностите от подобни платформи, много преди много от техните основатели да са родени. През 1970 г. социалният критик и историк на технологиите Люис Мамфорд предрича, че целта на това, което той нарича „компютърност“, ще бъде „да предостави и обработи безкрайно количество данни, за да разшири ролята и да осигури господството на енергийната система. През същата година семинар от феминистката мисъл Джо Фримън предупреди за присъщите неравновесия на властта, които останаха в системите, които изглежда, че всички са равни.

По подобен начин през 1976 г. компютърният учен Йозеф Вайзенбаум предрича, че през следващите десетилетия хората ще се окажат в състояние на бедствие, тъй като те стават все по-зависими от непрозрачни технически системи. Оттогава са излизали безброй подобни предупреждения, включително важни скорошни стипендии, като проучването на информационния учен Сафия Нобъл за това как Google търси възпроизвеждане на расовите и половите предубеждения и декларацията на учените от медиите Шива Вайдхйанхан, че „проблемът с Facebook е Facebook.“

Технологичните компании са мощни и богати, но дните им на избягване на контрол могат да свършат. Американската общественост започва да подозира, че технологичните гиганти са неподготвени и може би не желаят да поемат отговорност за инструментите, които са пуснали в света.

След президентските избори в САЩ през 2016 г. остава голяма загриженост, че руските и други чуждестранни правителства използват всяка налична социална медийна платформа, за да сеят раздор и недоволство в обществата по света.

Facebook все още не е решил проблемите с неприкосновеността на личните данни и прозрачността, които предизвикаха скандала в Cambridge Analytica. Twitter е предпочитаният мегафон за президента Доналд Тръмп и дом на обезпокоителни речи на омраза. Бъдещето на корпоративните офиси на Amazon се оформя като многостранна кавга сред избраните длъжностни лица и хората, които предполагаемо представляват.

Това ли е незнание или наивност?

Като се има предвид настоящата ситуация с историята на критиките на технологиите, не е трудно да се заключи, че технологичните компании заслужават кризите, пред които са изправени. Тези компании изискват от хората да им поверят имейли, лични данни, онлайн истории за търсене и финансова информация до такава степен, че много от тези компании гордо заявяват, че познават хората по-добре от себе си. Те популяризират най-новите си системи, включително „интелигентни високоговорители“ и „интелигентни камери“, като се стремят да гарантират, че всеки момент на събуждане на потребителите и моментите на сън също могат да бъдат наблюдавани, като вкарват повече данни в алгоритмите за вземане на пари.

Но привидно неизбежно тези компании продължават да демонстрират колко недостойни са доверието им в действителност, пропускащи данни, споделяне на лична информация и невъзможност за предотвратяване на хакерство, тъй като бавно изпълват света с тревожна техно-параноя, достойна за епизод от „Black Mirror“."

Отговорите на технологичните фирми за всяко ново откровение се вписват в стандартен модел: След като се появи скандал, участващата компания изразява тревога, че нещо се обърка, обещава да разследва и обещава да направи по-добре в бъдеще. Понякога - дни, седмици или дори месеци - по-късно, компанията разкрива, че скандалът е пряк резултат от начина, по който е проектирана системата, и изстрелва ужасен изпълнителен директор, за да изрази възмущение от разрушителните употреби на лошите хора, открити за тяхната система, без да признае, че проблемът е самата система.

Самият Цукерберг заяви пред американския Сенат през април 2018 г., че скандалът от Кеймбридж Аналитика го е научил „ние имаме отговорност не само да даваме на хората инструменти, но и да се уверим, че тези инструменти се използват за добро”. докато създавате компания с няколко милиарда долара.

Възстановяване от лявото

Използването на каквато и да е технология - от нож до компютър - носи рискове, но с увеличаването на размера и сложността на технологичните системи мащабът на тези рискове също нараства. Една технология е полезна само ако хората могат да я използват безопасно, по начини, в които ползите надвишават опасностите, и ако могат да се чувстват уверени, че разбират и приемат потенциалните рискове. Преди няколко години Facebook, Twitter и Google може да са изглеждали на повечето хора като доброкачествени методи за комуникация, които допринесоха повече за обществото, отколкото отнеха. Но с всеки нов скандал и недоволен отговор все повече хора виждат, че тези компании представляват сериозна опасност за обществото.

Колкото и примамливо да е да посочите бутона „изключено“, няма лесно решение. Технологичните гиганти са станали част от ежедневния живот на стотици милиони хора. Предполагането, че хората просто се отказват, е просто, но не успява да разпознае колко много хора са станали на тези платформи - и колко в капан могат да се почувстват във все по-непоносима ситуация.

В резултат на това хората купуват книги за това колко е зле Amazon - като ги поръчват на Amazon. Те извършват Google търсене на статии за това колко информация знае за всеки отделен потребител. Те пишат за това колко мразят Twitter и публикуват статии във Facebook за последния скандал във Facebook.

Технологичните компании могат да се окажат управляващи над все по-утежняващата се база от потребители, тъй като техните платформи разпространяват недоволството по-далеч и по-широко, отколкото е било възможно в миналото. Или те могат да решат да се променят драстично, да се пречупят, да превърнат някои контроли в демократичните решения на своите потребители и да поемат отговорност за вредата, която техните платформи и продукти са направили на света. Досега, обаче, изглежда, че индустрията не е отишла отвъд предлагането на полуизпечени извинения, докато продължава да се занимава с бизнеса както обикновено. Надяваме се, че това ще се промени. Но ако миналото е някакъв водач, то вероятно няма.

Тази статия първоначално е публикувана на The Conversation by Zachary Loeb. Прочетете оригиналната статия тук.