Многим знаком фильм «Терминатор», в котором искусственный интеллект вышел из-под контроля и объявил войну всему человечеству. Подобные сценарии встречаются и в менее известных фильмах, например в работе «Вирус», где компьютер воспринимал человека как вирус и пытался уничтожить.
Сегодня, в век высоких технологий, невольно возникает вопрос: насколько вероятна возможность реализации подобного сценария в реальности Ведь кажется, что любой скайнет можно победить, просто вытащив вилку из розетки. Увы, даже сегодня всё уже не так просто. Давайте посмотрим, на пару реальных случаев, когда роботы «пытались убить всех человеков» (с)!
Машины, пусть пока в результате технического сбоя, виной которому антропогенный фактор, выходят из строя и последствия самые ужасные.
Самое большое количество несчастных случаев по вине роботов происходит на крупных промышленных предприятиях и фабриках, где в немалом количестве присутствуют руки-манипуляторы, конвейеры, складские роботы и прочее.
Первый такой случай произошел еще в далеком 1979 году, когда рабочий фабрики Ford скончался в результате удара по голове, нанесенного роботом весом в тонну. Правда в данном случае, скорее сказалась техника безопасности.
Гораздо более страшный случай произошел в японском городе Акаси в 1983. году, где инженер, чинивший робота, был столкнут последним в дробилку. Как было выявлено позже, работник завода случайно задел тумблер и машина включилась.
В 2015 году на заводе Volkswagen промышленный робот схватил 21-летнего инженера и буквально расплющил его об лист металла. Виной всему назвали несоблюдение работником техники безопасности, так как инженер находился в металлической клетке, которая окружает роботов, обрабатывающих металл. Его коллега по цеху, находящийся за пределами злополучной клетки, не пострадал.
А на заводе автозапчастей в Детройте в том же году тот же робот, специализирующийся на обработке металлов, неожиданно вышел из строя и раздавил голову работнице завода, а затем попытался поместить ее в зажим.
20-летняя сотрудница завода Ajin USA погибла всего за пару недель до свадьбы. Именно в этот трагичный день она решилась восстановить работоспособность поломанного робота. Но устранение этой поломки находилось вне компетенции сотрудников фабрики. В процессе починки робот неожиданно перезагрузился и толкнул работницу в другую машину.
Все описанные примеры относятся скорее к невнимательности сотрудников, выполнявших работу и к несоблюдению техники безопасности. Тут всё можно было бы изменить. Но бывают и более серьезные проблемы, которые больше похожи на злой умысел и работу Скайнета, нежели на случайность.
В 2007 году 9 южноафриканских солдат погибло в результате вышедшей из-под контроля системы противовоздушной обороны. Зенитная установка, предназначенная для автоматического обнаружения и ликвидации наземных целей, в результате программного и механического сбоя вышла из строя, а затем выпустила двести пятьдесят фугасных снарядов по своим же солдатам, находящимся вблизи. 9 человек погибли, еще 14 пострадали.
Как сообщили представители некоторых компаний, занимающихся разработкой подобных установок, это далеко не первый случай выхода из строя автоматических зенитных установок. Однако первый раз в результате данного инцидента погибли люди.
Проблемы случаются и с системами автопилотирования. В 2009 году был зафиксирован инцидент, приведший к крушению самолёта. При посадке автопилот заблокировал положение подкрылок и выключил возможность ручного отключения. В итоге самолёт зашёл на посадку под неправильным углом, что привело к трагедии. Пилоты попросту не успели понять ,как можно оперативно отключить эту блокировку.
Стоит ли говорить про компьютерные вирусы, которые живут своей жизнью и часто отравляют нам жизнь. Те же программы-трояны, которые могут спокойно закидывать нас рекламой или воровать данные карточки. Представим на секунду, что такой троян окажется в какой-то системе жизнеобеспечения или другой важной системе. Вот и приблизится Терминатор на пару дней)…
Да и развитие современных нейросетей может сказаться тут весьма отрицательным образом. Ведь если научить компьютер обучаться, он сможет обучиться и защите от внешнего вмешательства. Или скрывать запущенные процессы.
Остается разобраться с тем, можно ли считать сбои недоработкой программного обеспечения и стандартной ожидаемой ошибкой, или же мы имеем дело с уже некоторыми элементами искусственного интеллекта, ориентированного против нас.
Для того, чтобы ответить на этот вопрос, нужно наблюдать за имеющейся картиной длительное время и проводить четкую аналитику каждого случая. Но технически отметим, что подобный процесс сегодня вполне возможен и существовать ему ничего не мешает. Пока мы можем обесточить компьютер, являющийся источником этого «мышления», именно, что развития сценария «Терминатора» ждать не стоит. Но рано или поздно роботы смогут защищать свои ресурсы
