Комментарии по теме: Названа главная дилемма беспилотных автомобилей

нет тут ни какой проблемы... у кого дороже авто, у того и "правильное" ПО.
И это ни когда не было связано с законами, "ГОСТами" и Техническими Условиями изготовителя )))

Проблема в другом: Кто будет нести ответственность за ДТП? Владелец скажет правду: автомобилем управлял не он. Производитель и программист откажутся. Так кто ответит?

Вы ходили бы по улицам, если бы там кроме людей сновали роботы.
И не знали бы, что кто то издали ими может управлять как хочет.
Если преступника или плохого-пьяного-тупого водителя вы можете
распознать, то робота вы никогда не поймете.
Впрочем, ассы - те же роботы, но с большой скоростью, что еще
хуже. Сделайте лучше роботов, которые останавливали бы ассов.
На каждой машине должен быть ограничитель скорости.
Впрочем, тогда ассы их не будут покупать

Не так все просто. Обозначена только одна проблема, а их множество. Сажать будем таблетку с программой? Только полный идиот приобретет такой автомоиль. Этим авто место на специально оборудованных, защищенных трассах.

Тоже мне, нашли проблему.

Какой может быть выбор? Все предельно ясно - кто нарушил правила, тот и должен понести урон. Нарушили правила люди - сбивать людей (если иначе могут пострадать пассажиры). Никто ж не винит электричество, если по глупости сует пальцы в розетку.

Больше у нас нет проблем, кроме, как проектировать беспилотные повозки по неизвестной цене, телепортацию бездарей за 11 млрд руб. до 2035 года и женщин-тренеров за 10 млрд. баксов в год для РФС и Мутко.

Замена водителей на ИИ - это глупость. Нужна централизованная система (наподобие сотовых сетей и даже с их помощью) диспетчеризации и телеуправления абсолютно всеми беспилотными аппаратами (с одновременным исключением пилотируемых), а также изменение дорожной инфраструктуры, исключающей пересечение потоков. Автоматические станции техобслуживания и заправки. Прокладка между рулем и сиденьем - это находка только для адвокатов и самое нанадёжное звено в транспортной системе (источник хаоса). Для постепенного перехода (миграции) к новой транспортной парадигме, нужно рядом со старыми мегополисами и трассами строить новые города-спутники и хайвеи (старые невозможно изменить сразу), способные использовать более скоростные и безопасные транспортные средства. Эти средства могут быть персонализированными, без окон с повышенными средствами обеспечения безопасности клиента, снабжённые всеми необходимыми информационными интерфейсами, лучше даже сделать их арендуемыми у компании поставщика на время услуги, что позволит проще контролировать исправность средств с юридической точки зрения. Это детский сад, если клиенты хвалятся своими каретами, а не своими делами.

По закону или по совести.
Но это же беспилотный автомобиль и принимает решение не пассажиры. Ответственность несёт фирма - изготовитель. Для фирмы, бизнес - прежде всего. Если машина нарушит правила, то компании отвечать за любой исход. Закон нарушать - себе дороже. Кто будет задаваться вопросами, могло ли нарушение закона привести к меньшим жертва. А разве жертвы не нарушили закон, не подвергли опасности свои жизни? Может привлекать к ответственности строителей высотных домов и вкладчиков асфальта в случае суицидов? В случае решения моральной дилеммы деструктивных действий для спасения посторонних жизней, ни одна страховая компания не станет на сторону компании-спасителей, особенно если пострадают пассажиры, за жизни которых отвечает изготовитель, ведь это был их выбор. Где вы видели, что бизнес следовал морали во вред собственным интересам? Если представить, что автомобиль нарушил закон, то компания подвергнется наказанию даже в случае отсутствия жертв, ведь их продукция подвергает жизни клиентов опасности (даже если пассивные средства безопасности совершенны) и готова вести себя непредсказуемо (нарушать законы). Нужно предусмотреть снижение возможностей для нарушений со стороны пешеходов.
Мне кажется, это больше проблема инфраструктуры, не обеспечивающей безопасности при соблюдении правил дорожного движения. Или по крайней мере, на опасных участках отсутствуют отбойники, снижающие ущерб при плохом сцеплении с дорожным полотном или в случае внезапной неисправности тс.

Лукавый подход. Если автомобиль, уходя от наезда, даже ударится в стену, но пассажиры погибнут далеко не всегда, для того в автомобиле полно всяких прибамбасов, от сминаемых элементов кузова до подушек безопасности. Нередки примеры, когда из полностью разбитого "мерседеса" вылезает водитель лишь с царапинами. Для пешехода же столкновение с автомобилем есть смерть либо тяжкие увечия, либо инвалидность.

Во-первых, развитие ситуации вероятностно. Поэтому точного решения быть не может.
Во-вторых, авто имеет наибольшие возможности по действиям в аварийной ситуации, так как более энергонасыщен и имеет больше средств и возможностей спасения.
Поэтому при вычисленных примерно одинаковых человеческих потерях ИИ авто должен приоритетно заботится о людях во вне. Даже при вероятности ушиба или более тяжелых (но не смертельных) последствиях пассажиров в машине, вероятность смертельного удара по пешеходу должна исключаться.
Для альтруистов должна быть зеленая кнопка "спасать в любом случае".
И, кстати, можно ведь для эгоистов поставить красную кнопку "безопасная езда" - если человек готов въехать в пешехода ради своего спасения, пусть он въезжает со скоростью пешехода.