Waymo столкнулась с неожиданной проблемой: во время масштабного отключения электроэнергии в Сан-Франциско её автономные такси застряли на перекрёстках. Компания объяснила, что их системы воспринимают мёртвые сигналы светофора как четырехсторонние остановки, что и должно было позволить машинам безопасно пройти. Однако из-за увеличенного числа запросов подтверждения от флотской службы Waymo возникла пробка в обработке этих команд.
При ранней разработке системы разработчики предусмотрели этот механизм осторожно, чтобы избежать ошибок, однако в масштабах крупного сбоя оказалось, что он создает задержки. В скором времени выйдет обновление, в котором система сможет учитывать ситуацию с отключением региона и более уверенно проходить такие перекрестки. Также в планах — усовершенствовать протоколы emergency response на основе уроков прошлого инцидента.
Несмотря на задержки, более 7000 машин смогли успешно провести через темные сигналы во время хаоса. Этот случай показывает, что автономным системам всё ещё сложно работать в непредвиденных ситуациях, хоть и ведут постоянное совершенствование программ. В ближайшие годы компании продолжат оттачивать алгоритмы, чтобы такие сбои исчезли из практики вовсе, и роботы привыкли к любым кризисам.