Найден простой способ «свести с ума» автопилот

Все мы ожидаем наступления эры беспилотных автомобилей. Кто-то ждет этой революции с нетерпением, другие, более осторожные люди, уверены, что новшество принесет на дороги новые проблемы. Студенты из нескольких университетов США провели интересный эксперимент. Они специально испортили дорожные знаки в микрорайоне, после чего проехались по улицам на машине, оснащенной системой автопилотирования (точнее - «ассистентом водителя», как требуют называть эту «умную» электронику американские законы).

Для порчи дорожных знаков применили кусочки клейкой ленты и фломастеры. Изменение рисунка на поверхности знака было несущественным. Любой водитель-человек без всякого труда определял его смысл. Но как показали тесты, «робот-водитель» при виде подпорченных знаков начинал паниковать и сбиваться.

Для испытания испортили знаки «Stop» и «Движение только направо». Несколько белых и черных полосок клейкой ленты или дополнительные надписи маркером превратили данные знаки в «нечитаемые» электроникой. Так, вместо знака «Stop» цифровые «глаза» автопилота видели знак, требующий ограничить скорость. Вместо знака «Правый поворот» автоматика видела знак с командой «Stop» или «Дополнительная полоса».

Авторы эксперимента скромно умалчивают автопилот какого именно производителя проходил испытания. Хотя нетрудно догадаться, что скорее всего, тестировали автоматическое «зрение» Tesla — самого распространенного на сегодня ассистента водителя на рынке.

Степень порчи знаков соответствует тем изменениям, которые считаются наиболее частыми по статистике. Дорожные знаки в разных странах регулярно подвергаются актам вандализма, либо страдают от стихийных бедствий. В случае с водителями-людьми наличие таких подпорченных знаков раздражает. А вот для автопилота это оказывается настоящей проблемой.

Быть может, именно эти вероятные сбои в работе беспилотников имел в виду Илон Маск в своем недавнем интервью, когда назвал искусственный интеллект одной из главных опасностей для цивилизации. Известно, что первая в истории авария беспилотного авто со смертельным исходом произошла из-за ошибки «электронного зрения» - радар Tesla Model S принял светлую боковую поверхность фуры за чистое небо.