Технологии развиваются стремительно, но человеческая природа неизменна. В начале ХIХ века английские рабочие, протестуя против внедрения машин на производстве, крушили их кувалдами. Участников этого массового движения называли луддитами, а подавлять их восстания приходилось с помощью армии. В начале ХХI столетия страх перед технологиями никуда не делся. АиФ.ru изучил самые яркие случаи неолуддизма.
«Остановим роботов-убийц!»
Расхожая страшилка последних лет: искусственный интеллект и машинные алгоритмы вскоре оставят без работы миллионы людей. Бюро статистики труда США составило список профессий, которые должны исчезнуть в ближайшее десятилетие. В нём — банковские служащие, клерки всех мастей, сотрудники кол-центров, секретари, наборщики текстов, операторы на конвейерном производстве. Однако массовых протестов это не вызывает (во всяком случае, пока): интересы потребителей умело переводятся в индустрию развлечений, которая сейчас цветёт пышным цветом).
Другое дело — угроза войны роботов. Искусственный интеллект внедряется в военные технологии, а чем обернётся появление «роботов-убийц», сказать не может никто. Например, Илон Маск предрекает начало Третьей мировой войны и апокалиптический сценарий в духе фильма «Терминатор». Американский миллиардер вошёл в число 2400 учёных и предпринимателей, которые подписали письмо с призывом к властям полностью запретить работы по созданию автономного летального оружия на основе искусственного интеллекта.
Похожие требования выдвигает группа неправительственных организаций под названием «Остановим роботов-убийц». А часть сотрудников Google уволилась после того, как узнала, что их компания собирается подписать контракт с Пентагоном на поставку софта, который, возможно, будет применяться в боевых дронах. «Мы всё больше опасаемся, что искусственный интеллект станет не только предвзятым, но и вооружённым», — сказано в петиции сотрудников Google.
Новая игра: подрежь беспилотник
Испытания беспилотного транспорта ведутся во многих странах мира. И у них уже есть свои жертвы.
В мае 2016 года в штате Флорида электрокар Tesla в режиме автопилота врезался в грузовик с прицепом. Водитель, тестировавший Tesla, погиб на месте. В марте 2018 года беспилотник компании Uber в штате Аризона насмерть сбил женщину, которая переходила дорогу в неположенном месте. А буквально через несколько дней случилась ещё одна авария с Tesla. Машина, в кабине которой находился страхующий водитель, потеряла управление и влетела в отбойник. Автомобиль загорелся, водитель умер по дороге в больницу.
Когда сотрудники Uber просматривали записи с видеокамер тестируемых беспилотников, они обратили внимание на то, что окружающие люди зачастую не скрывают агрессии по отношению к новому виду транспорта. Пешеходы показывают этим машинам средний палец и кричат на них, водители, едущие в соседней полосе, подрезают и провоцируют на то, чтобы авто съехало с дороги. Бывали случаи, когда беспилотники забрасывали камнями и даже целились в них из огнестрельного оружия.
Исследователь из Университета Аризоны Фил Саймон предполагает, что эта агрессия имеет под собой те же основания, что и протесты луддитов в ХIХ веке, крушивших ткацкие станки. «Люди попросту боятся, что настанет день, когда автоматизированные системы оставят их без работы, — говорит он. — А беспилотный автомобиль — самая заметная автоматизированная система из всех, ведь его можно встретить прямо на улице. Неудивительно, что на нём люди и вымещают свои страхи в виде агрессии».
«Они меня просканировали!»
С 2017 года в Великобритании используется технология автоматического распознавания лиц в местах массового скопления людей. Цель — поиск сбежавших заключённых, подозреваемых в совершении преступлений и разыскиваемых преступников.
В декабре офисный клерк Эдд Бриджес, живущий в Кардиффе, отправился в магазин за рождественскими покупками. Его внимание привлёк полицейский фургон с надписью «Распознавание лиц». Эдд решил, что это не что иное, как наглое вторжение в его личную жизнь и нарушение фундаментальных прав и свобод, после чего подал в суд на полицию.
«Я уверен, что они меня просканировали, — объяснил свой поступок храбрый клерк. — А ведь мы живём не в авторитарном государстве. Мы живём в условиях демократии! Полиция начала применять эту технологию против меня и тысяч таких, как я, без всякого предупреждения и консультаций. Трудно понять, как полиция собирается обосновать неадекватное использование такого навязчивого контроля».
Бриджес разузнал, что в тот день в городе с помощью системы автоматического распознавания лиц было совершено два ареста по подозрению в мелких правонарушениях. А просканированы при этом десятки тысяч лиц. Следовательно, делает вывод активист, эффективность технологии находится под вопросом! А вот угроза демократическим свободам неоспорима.
Деньги на иск к полиции он собрал с помощью краудфандинга. Адвоката Эду Бриджесу выделила британская правозащитная организация Liberty , которая охотно его поддержала. «Такое использование системы распознавания лиц эквивалентно взятию отпечатков пальцев или ДНК без согласия самого человека, — разъясняет позицию подзащитного адвокат Меган Гулдинг. — Кроме того (в отличие от дактилоскопии или образцов ДНК), нет регламента, который позволял бы контролировать дальнейшее использование и управление полученными биометрическими данными».
И это не всё. Правозащитники обращают внимание на то, что данная технология допускает ошибки при сканировании. «Если мимо камеры пройдёт женщина или представитель этнического меньшинства, то с высокой долей вероятности это лицо будет найдено в „чёрном списке“, даже если его там нет, — утверждает Гулдинг. — Человека остановят и допросят. Выходит, что эта технология усиливает перекос в общественном сознании, ужесточая и без того пристальное внимание полиции к представителям этнических меньшинств».
ООН против голосовых помощников
Свою озабоченность технологиями высказывают и такие солидные организации, как ООН. Недавно её подразделение — ЮНЕСКО — представило доклад под названием «Я бы покраснела, если бы смогла». И вновь речь идёт о нарушении прав, на этот раз — женских.
Доклад посвящён голосовым помощникам, которые рано или поздно будут стоять в каждом доме и которые, как правило, говорят женскими голосами. В чём тут суть? Если вы произнесёте какое-то оскорбление в адрес голосового помощника Siri, то он (или она?) ответит: «Я бы покраснела, если бы смогла» (это и дало название докладу). Но эксперты ООН считают, что это слишком мягкая реакция на дерзость. Даже если вы назовёте Siri шлюхой, ответ будет только таким. А это, как сказано в докладе, усиливает гендерное неравенство, заставляя пользователей думать, что женщина «доступна по нажатию кнопки» и что говорить с ней можно любым тоном.
«Послушные помощники, которые говорят женскими голосами, приходят в наши дома, машины и офисы. Их безоговорочная готовность подчиняться влияет на то, как люди разговаривают с обладательницами женских голосов, и моделирует то, как женщины реагируют на вопросы и выражают себя», — объяснила директор по вопросам гендерного равенства в ЮНЕСКО Сания Корат. В итоге, как отмечают авторы, во многих сообществах, и без того не отличающихся толерантностью, «усиливаются предрассудки в отношении пола и того, что женщины подчинены и терпимы к плохому обращению».
Представители ООН просят производителей голосовых помощников — Google, Amazon, Apple и Microsoft — перестать использовать в них женский голос по умолчанию. Рекомендуется делать голоса гендерно-нейтральными. А ещё предлагается запрограммировать эти девайсы так, чтобы они сами препятствовали оскорблениям по половому признаку.
Что-то подсказывает: когда роботы начнут войну против человечества, они непременно будут разговаривать женскими голосами. Чтобы уж сразу за всё поквитаться.