В начале ноября из Южной Кореи пришли трагические новости — робот-грузчик случайно убил рабочего, который проверял его датчики. Как пишет информагентство Yonhap, машина перепутала человека с коробкой овощей и нанесла тяжелые травмы, от которых мужчина скончался. Нарушение (кстати, далеко не первое) главного закона робототехники, гласящего, что «умный» механизм не может навредить человеку, стало сенсацией, о которой написали ведущие СМИ по всему миру: от The Washington Post до The Times of India. Что это значит для новых технологий? Значит ли это, что предупреждения о том, что роботы опасны, обоснованы? На эти вопросы в колонке для «Собака.ru» отвечает декан факультета систем управления и робототехники ИТМО Антон Пыркин.
«Робот убил человека, приняв его за коробку с овощами», — когда мы читаем такие новости, всегда нужно помнить, что это могут быть предварительные данные, что расследование еще не завершено и уверенно говорить о причинах случившегося рано. Однако для всех очевидно, что произошла страшная трагедия.
Если то, о чем пишут СМИ, действительно верно, то, вероятнее всего, причина в сбое программы компьютерного зрения. Проще говоря, алгоритм, обрабатывающий данные с камер, допустил ошибку, приняв один объект — человека, за совершенно другой — коробку. После чего механизм получил команду действовать, что стоило рабочему жизни. Другой вопрос, почему оператор проводил техническое обслуживание робота, не переведя его в соответствующее безопасное состояние.
С точки зрения робототехники, да и просто с общечеловеческой, — это ужасно. Тем более что мы понимаем: подобный случай не первый — можно вспомнить 2018 год, когда беспилотный автомобиль впервые сбил пешехода насмерть. Более того, увы, можно с уверенностью говорить, что такая трагедия может повториться.
И, конечно, всякий раз будут возникать абсолютно оправданные разговоры о том, насколько роботы опасны, стоит ли их внедрять и не нужно ли подождать с развитием технологий до лучших времен. В свою очередь разработчики должны будут снова и снова доказывать обществу, что на самом деле «умные» машины реально необходимы и могут быть безопасны.
Так, в прошлом году мой факультет организовывал в «Севкабель Порту» выставку «Забота робота». Целый месяц мы показывали, как роботы могут поливать цветы, рисовать картины, делать скульптуры, демонстрировать представления с роботами-музыкантами, играющими на настоящих инструментах, и играть спектакли. Все это было как раз для того, чтобы показать горожанам: роботы могут быть полезны и интересны, они могут сделать вашу жизнь лучше.
Именно поэтому каждая такая трагедия — серьезный вызов для индустрии. Всю эту работу могут перечеркнуть безответственные инженеры, которые делают свою продукцию недобросовестно, и компании, которые в погоне за максимизацией прибыли покупают ненадежную технику.
Какое же будущее в этих условиях ждет робототехнику? На самом деле ответ прост — роботы должны стать более безопасными. Каждый такой трагический случай будет разобран инженерами до мельчайших деталей. Не зря говорят, что все регламенты безопасности написаны кровью: они устанавливают базовые принципы, чтобы в будущем исключить несчастные случаи, аналогичные тем, что уже произошли.
Каждое подобное происшествие должно напоминать робототехникам об ответственности за свои творения. О том, что именно от них зависит безопасность пользователя. Инженеры должны проектировать устройства не только надежными, но и следующими принципу «не навреди». Разработчики должны думать не только о том, что будет в случае, скажем, обрыва провода или отказа привода, но и о том, как этот робот будет двигаться вблизи человека, не нанесет ли травму оказавшемуся рядом рабочему.
Возможно, в будущем мы увидим классы безопасности роботов в зависимости от мер предосторожности, которые предприняты производителем. Приходя в магазин и выбирая робот-пылесос или другую «умную» машину, вы будете видеть, что они промаркированы: «Класс безопасности "А"», «Класс безопасности "Б"» и так далее…
До робототехники этот путь проходили практически все технологии. Так, первые испытания самолетов с адаптивным управлением заканчивались катастрофами. Тогда тоже можно было прочитать заголовки «Автопилот убивает». Сейчас это базовое устройство, без которого не обходится ни один современный лайнер.
Да и сами самолеты еще в 80-е годы были куда менее безопасны: катастрофы случались намного чаще. На них индустрия училась, создавала все новые контуры защиты. В итоге за пару десятилетий человечество научилось пользоваться самолетами безопасно. Я сам поначалу относился с осторожностью к перелетам, а теперь, примерно 200 рейсов спустя, отношусь к этому практически, как к поездке на лифте: зашел, сел, двери закрылись, двери открылись — я в другом городе.
В некотором будущем роботы точно так же войдут в нашу повседневную жизнь. Тем более что другого выхода у нас нет — без роботов невозможно обойтись, сохраняя привычный уровень комфорта. В мире просто нет столько рабочих, чтобы создавать миллионы айфонов, автомобилей, кораблей в год. Ручной труд слишком дорог и на самом деле куда менее точен. Да и любой, кто хоть раз попробовал робот-пылесос, согласится, что это намного удобнее, чем мыть полы вручную. Поэтому прогресс не остановить, он объективен, но мы должны всегда помнить о безопасности.
Комментарии (0)