BTC/USD 10712.13 0.43%
ETH/USD 351.46 2.76%
LTC/USD 45.64 2.53%
BRENT/USD 41.83 -0.26%
GOLD/USD 1861.15 -6.45%
RUB/USD 76.82 -0.46%
Tokyo
Moscow
New-York

Роботы-убийцы: почему ошибки в программировании могут стоить жизни

0

Ошибки программирования, которые могут стоить людям жизни

Высокие технологии в большинстве случаев воспринимаются людьми позитивно, и этому есть объяснение. Однако есть у этой темы и другая сторона медали — темная. За ней прячутся тысячи людских ошибок, которые были совершены ценой чьих-то жизней. В материале мы поговорим о том, какой риск несут в себе неточности программирования.

Uber: история с летальным исходом

Машины, которые в состоянии самостоятельно управлять всеми деталями процесса передвижения, — настоящая сказка, способная сделать нашу жизнь значительно проще. Только представьте: после тяжелого дня на работе авто может самостоятельно доставить вас до дома, а после — съездить за необходимыми продуктами. Через передачу списка магазину, сотрудники которого на основе доступа по проведенной транзакции могут положить заранее собранную корзину продуктов, к примеру, в багажник. Однако есть одно «но», о котором часто забывают: весь процесс программирования создается людьми, а это значит, что он является отображением чьих-то расчетов, в которых может быть ошибка. Именно так и произошло с умным автомобилем Uber.

Эта история началась задолго до того страшного события, о котором писали многие СМИ. На протяжении почти трех лет регуляторы разрабатывали правила возможного тестирования беспилотных автомобилей на дорогах США. И вот, в феврале 2018 года, они вышли в свет.

Одной из первых компаний, которая инициировала начало работ, стала Uber Technologies. Согласно постановлениям, тестирование было возможно исключительно при наличии водителя, который должен в случае возникновения внештатной ситуации взять управление на себя. Компания проводила свои исследования согласно всем предъявляемым требованиям, однако это не спасло ее от громкого скандала.

18 марта 2018 года поздно вечером одна из машин проходила тестирование. Согласно предписаниям, за рулем находился водитель. После долгих часов поездки на автопилоте женщина, которая должна была контролировать процесс, явно устала и решила немного вздремнуть. В момент, когда ее внимание было рассеяно, на дороге (не на пешеходном переходе) появился человек, перекатывающий велосипед на противоположную сторону. Датчики авто не сработали, и он был сбит. Впоследствии пешеход, которым оказалась женщина средних лет, скончался в больнице.

После несчастного случая Uber была вынуждена свернуть программу тестирования в нескольких регионах. Точная причина случившегося не называется, однако очевидно, что смерть этой женщины лежит на программистах, которые не учли детали реакции автомобиля на определенные помехи.

Никита Куртин, специалист по информационной безопасности, преподаватель израильской высшей школы IT и безопасности HackerU, в беседе с BitCryptoNews отметил следующее:

— Опасность, конечно, всегда присутствует — чем доступнее технология и чем больше у нее возможности, тем выше риски. Но это же не значит, что теперь нужно лезть под кровать или отключать все приборы из розетки. Нужно просто быть бдительным, брать в расчет дигитальную трансформацию и пытаться получить от технологии максимум пользы при минимальном риске.

«Почта России» и ее «боевые» дроны

В попытках усовершенствовать свою систему доставки «Почта России», оглядываясь на Запад, решила открыть для себя мир новых технологий. Представителей компании привлекли дроны: беспилотные летающие аппараты, способные доставлять грузы в условиях полнейшего бездорожья, формируя при этом кратчайший путь.

Вскоре публике был представлен первый дрон, испытания которого решили провести в Бурятии. Торжественность события подкрепила толпа журналистов, готовящихся засвидетельствовать триумф «Почты России», однако что-то пошло не так. Через несколько секунд после взлета дрон на высокой скорости разбился о стену стоящего рядом жилого дома. Казалось бы, помимо того, что известная компания вновь опростоволосилась, в этой истории нет ничего примечательного, однако так кажется лишь до тех пор, пока не становится очевидным, что на месте дома мог бы оказаться человек.

Представитель юридической компании Plieva IP & Digital law Залина Плиева предостерегает:

— Не стоит забывать про угрозы, связанные с обработкой большого количества данных о людях. Холодильник, который знает, что вы едите, приложения социальных сетей, которые могут узнавать вас на фото по лицу и знают ваших близких, ваш мобильный банк, который знает, сколько и где вы тратите деньги, сайты, которые запоминают ваши предпочтения.
Что будет, если такие данные будут утеряны в связи с ошибкой программы или при хакерской атаке? К кому в руки попадет информация о вас?
Крупные и мелкие компании заинтересованы в получении максимально полной информации о клиентах для создания индивидуально настроенной рекламы. Практически каждый действующий сайт так или иначе обрабатывает какую-то информацию о посетителях.
Одно из последних крупнейших событий, показывающее серьезность таких ситуаций, — утечка информации пользователей социальной сети Facebook. Компания Марка Цукерберга будет оштрафована в Великобритании на сумму £500 тыс., что является максимальной возможной суммой штрафа по законам страны, которые действовали на момент совершения нарушения.
А Европейский союз в мае 2018 года уже ввел в действие Регламент по защите персональных данных, который распространяет свое действие не только на территорию ЕС, но и на всех, кто обрабатывает данные граждан ЕС и лиц, находящихся на территории Европейского союза.
Он предусматривает высокие штрафы: до €20 млн за нарушения в обработке персональных данных.
Высокие технологии — это не только автомобиль с искусственным интеллектом, но и огромная база с персональными данными, которая уязвима и представляет огромную ценность для многих компаний.

Робот-убийца на заводе Volkswagen

Многие производства оснащены роботами, которые выполняют рутинную работу. На заводе Volkswagen благодаря машинам создаются автомобили. Перед сложной техникой заранее ставятся задачи, которые вносятся в их систему ПО. Однако это не смогло спасти рабочего, который был раздавлен насмерть гигантской машиной, вышедшей из строя.

Следствие до сих пор не может назвать точную причину случившегося. Вокруг этого случая ходит масса догадок: от восстания машин до преднамеренного программирования в целях причинения вреда людям.

***

Люди не должны забывать о том, что машины делают именно то, на что они были заранее запрограммированы. Один маленький технический недочет кому-то может стоить жизни.

текст: Евгения Лиходей, видео: ABC 15 Arizona, РИА Новости, Информбюро 31, фото: Mopic, Usa-Pion/ Shutterstock