Является ли использование искусственного интеллекта для полностью автономного вождения хорошей идеей?

Изображение: Andrej Sokolow /Picture-Alliance/AP из IEEE Spectrum

В биографии Илона Маска, написанной Уолтером Айзексоном, можно прочитать, как предполагалось использовать искусственный интеллект в автомобилях Tesla для реализации долгожданного полностью автономного вождения. Год за годом Tesla обещает своим владельцам режим Full Self Driving (FSD) — движение без управления рулем по заданному маршруту — также известный как автономность уровня 4, но FSD все еще не вышел за рамки бета-версии, что не мешает Tesla взимать за него по 199 долларов в месяц.

SAE J3016 Уровни автоматизации вождения. Изображение: SAE International

Уровень автономности 4, или L4, по определению Общества автомобильных инженеров (SAE), представляет собой режим «без рук на руле», при котором автомобиль самостоятельно перемещается из точки А в точку Б. Еще более фантастическим выглядит L5, в котором вообще нет руля, а также педалей газа и тормоза. Уровень L5 был достигнут несколькими компаниями, но только для шаттлов, таких, как Olli, — электромобиля, напечатанного на 3D-принтере, который стал ярким событием IMTS 2016, крупнейшей производственной выставки в США. Однако у производителя Olli, Local Motors, закончились деньги, и она закрылась в январе 2022 года, спустя месяц после того, как один из автомобилей, проходивший испытания в Торонто, врезался в дерево.

Традиционный подход к реализации L4 заключался в создании алгоритма, в котором для каждой мыслимой дорожной ситуации использовались вложенные конструкции if-this-then-that. Например: если перед автомобилем поворачивает машина, объезжайте ее, если скорость позволяет. Если нет, остановитесь. Программисты создали библиотеки тысяч и тысяч ситуаций/реакций, чтобы предусмотреть все «крайние случаи», поскольку аварии, а иногда и катастрофические события время от времени случаются.

Сцена из сюжета «Тесла в режиме автопилота врезается в машину скорой помощи», канал CBS Austin, 24 июля 2023 года

Тесла и другие беспилотные автомобили, в частности роботакси, находятся под все возрастающим пристальным вниманием. Национальное управление безопасности дорожного движения (NHTSA) расследовало 16 столкновений Tesla с другими транспортными средствами, когда автомобили Tesla находились в режиме автопилота или полностью автономного вождения. В марте 2018 года роботакси Uber с водителем-наблюдателем, который вовремя не взял на себя управление, сбило в Аризоне пешехода, переходящего дорогу со своим велосипедом. Недавно роботакси Cruise наехало на женщину и протащило ее 20 футов. Компании, производящие беспилотные автомобили, пытаются убедить общество, что такие инциденты редки, что автономные транспортные средства являются гораздо более безопасной альтернативой водителям, которые убивают 40 000 человек каждый год только в США.

Сторонники внедрения передовых технологий считают несправедливым слишком жесткое отношение к беспилотным автомобилям. Общество же призывает к нулевой терпимости.

Маск: я знаю способ получше

Илон Маск вряд ли является приверженцем традиционного подхода — создания библиотеки ситуаций/реакций. Сторонник лозунга «move-fast-and-break-things» («двигайся быстро и ломай стереотипы») понимал, что у него есть лучший метод.

Лучший метод состоял в том, чтобы понять, как водят лучшие водители, а затем использовать ИИ для воплощения их навыков в режиме полностью автономного вождения Tesla. В этом Tesla имела явное преимущество перед конкурентами. С самого начала эксплуатации автомобили Tesla записывали видео. В статье «The Radical Scope of Tesla’s Data Hoard» («Радикальный объем хранилища данных Tesla») издание IEEE Spectrum сообщает о данных, собранных автомобилями Tesla. Многие современные автомобили продаются с черными ящиками, которые записывают определенные данные до момента аварии, но автомобили Tesla идут дальше — собирают и сохраняют множество данных по ходу движения.

В Tesla хранятся миллионы часов видео — петабайты данных. Маск считает, что эти видео могут служить библиотекой обучения для искусственного интеллекта Tesla, в частности, для его нейронных сетей.

В этом океане данных сотрудники Tesla нашли лучших водителей. А дальше все просто: научить ИИ водить машину так, как это делают хорошие водители. Как хороший водитель-человек, Tesla сможет справиться с любой ситуацией, а не только с той, что находится в библиотеках ситуаций/реакций.

Миссия выполнима?

Сможет ли ИИ заменить человека за рулем, еще неизвестно. Tesla по-прежнему взимает тысячи долларов в год за полностью автономное вождение, но технология еще не внедрена. Tesla обогнала Mercedes, которая в этом году достигла 3-го уровня автономности со своими электромобилями EQS.

Тем временем голоса противников автономного вождения и ИИ становятся все громче. В Сан-Франциско компанию Cruise практически выгнали из города после инцидента 2 октября, когда она, по некоторым данным, не смогла предъявить видео.

Даже некоторые стойкие приверженцы внедрения передовых технологий перешли на сторону безопасности. Сам Маск, несмотря на использование ИИ в Tesla, публично и решительно осудил ИИ, заявив, что он приведет к разрушению цивилизации.

В статье журнала IEEE Spectrum Мэри Л. Каммингс, бывший летчик-истребитель, предупреждает об опасностях использования искусственного интеллекта в беспилотных транспортных средствах.

В своей книге «What Self-Driving Cars Tell Us About AI Risks» Каммингс дает рекомендации по разработке ИИ, используя примеры беспилотных транспортных средств. Хотя вряд ли алгоритмы, использующие if-this-then-that для программирования ситуаций/реакций, можно отнести к ИИ, но некоторые высказывания Каммингс мы приведем ниже.

Жесткая остановка

Как бы вы ни интерпретировали ИИ, автономные транспортные средства служат примером машин, управляемых с помощью программного обеспечения, которые могут вести себя плохо — настолько, чтобы нанести ущерб или причинить вред людям.

Например, недопустимым является столкновение автономного транспортного средства со всем, что находится впереди него. Этого не должно быть никогда. Если впереди обнаружена масса и текущая скорость автомобиля может привести к столкновению, система должна нажать на тормоза. Этого не случилось, когда один из автономных автомобилей врезался в заднюю часть сочлененного автобуса, поскольку система определила его как обычный, то есть более короткий автобус.

Другой случай — фантомное торможение — прекрасный пример того, как ИИ не только не может защитить нас, но и фактически подвергает опасности пассажиров.

«Одна из ошибок, которую раньше не брали в расчет, — это фантомное торможение, — пишет Каммингс. — Без какой-либо очевидной причины беспилотный автомобиль внезапно может резко затормозить, что может привести к столкновению с автомобилем, едущим непосредственно сзади, и вызвать цепь столкновений. Фантомное торможение наблюдалось у беспилотных автомобилей многих производителей, а также у автомобилей, оснащенных ADAS [Advance Driver Assistance Systems]».

Обосновывая свое утверждение, Каммингс цитирует отчет NHSTA, в котором говорится, что столкновения сзади случаются с автономными транспортными средствами в два раза чаще (56%), чем со всеми транспортными средствами (28%).

«Причина таких происшествий до сих пор остается загадкой. Первоначально эксперты объясняли это ошибками человека-водителя, который слишком внимательно следил за беспилотным автомобилем. Однако число таких аварий растет. Например, в мае 2022 года NHTSA направило Tesla письмо, в котором отметило, что агентство получило 758 жалоб на фантомное торможение в автомобилях Model 3 и Y. В мае этого года немецкое издание Handelsblatt сообщило о 1500 жалобах на проблемы с торможением автомобилей Tesla, а также о 2400 жалобах на внезапное ускорение».