15 нояб. 2018 г.

Экзамен для Бога, сбивающего людей

Обмен умностями привел к необходимости ответа на «проблему вагонетки» сформулированную Филиппой Фут в 1967 году и ставшую притчей во языцех современной нейроэтики.

Меня всегда бесила эта задача, но я никак не мог себя заставить осознать причину озлобления. Я чувствовал, что что-то в ней не так, но что? Прямой вопрос, адресованный лично мне, привел к сравнительно простому и очевидному ответу– задача изначально некорректна самой постановкой. Факт появления мгновенного ответа именно при личном неожиданном предъявлении только доказал его правильность, ибо ситуация вопроса, в моем понимании, абсолютно аналогична задаче.

Для наглядности моей логики предлагаю переиначить постановку проблемы: вы сидите рядом с водителем и глазеете по сторонам. Вдруг впереди неожиданная аварийная ситуация. Водитель предлагает вам поменяться местами, чтобы дальше с проблемой разбирались Вы. Что Вы скажете в ответ? А что подумаете? В чем отличие от исходной проблемы?

Логично ли заранее планировать аварийную ситуацию? Заранее логично планировать ее исключение. Чем лучше спланировал, тем менее вероятно, что она случится. Что подумают о проектировщике, который заранее заложил аварийность настолько, что может ее предугадать?

Тем не менее, непредвиденное возможно. Как мы реагируем в непредвиденной ситуации? На что обращаем внимание? Чем руководствуемся? Никто не знает. Мгновенная обработка ситуации и импульсный, ничем не предсказуемый ответ на нее. Ребенок или взрослый, мальчик или девочка, беременный или обожравшийся, хороший или плохой... Божий промысел. Пронесло или не пронесло. Бог спас или черт попутал. Каждый отвечает перед собой и Всевышним.

Я далек от религии, но модель высшей силы в этой ситуации наиболее адекватный вариант объяснения. Бог создал человека по своему образу и подобию. В каждом из нас есть Бог. Вот, он и решает подобные задачи. Наша задача– исключить, насколько возможно, их вероятность, но, когда и если она случается, ее решает наша высшая инстанция. Запроектировать ее нельзя. Она у каждого своя и познается только в подобных ситуациях. Один закрывает глаза, другой тупо давит на тормоз в полном параличе, третий спасает себя, четвертый гробит себя, пятый непонятным никому способом всех объезжает и помирает от инфаркта, шестой помирает от одного вида аварийной ситуации, седьмой нейтрализует ситуацию и радостно позирует всем каналам... Не прогнозируется это никем. Тем более, самими героями событий.

Бессмысленно проектировать высшую силу для автопилота. Самый адекватный ответ был у Мерседеса, кажется: «Для нас первичен приоритет нашего пассажира». И это правильно– им продавать нужно. Проблема морали не для робота. Для него законы робототехники имени Азимова и технические возможности носителя. В применении к автопилоту я вижу простые приоритеты так:

  1. Сберечь пассажира внутри
  2. Сберечь человека снаружи (количественно или по объему, без сложных моральных наворотов)
  3. Максимально использовать эффект гашения энергии при выборе объекта для столкновения

Приоритеты должны быть именно простыми, чтобы люди, попавшие в ситуацию, могли, используя их, принимать свои решения.Например, спасая ребенка и/или беременную жену, отделиться от них, минимизируя себя как количество допустимого ущерба в логике автопилота.

При наличии широкого распространения автоматики и создании «умной дороги» такие задачи можно выносить на технического Бога– координирующую систему, обрабатывающую все поступающие от умных агентов данные. Имея картину всей ситуации, она может существенно снизить риск аварийных ситуаций и, при необходиомсти, принять на себя решение о реакции на нее всех участников. Для них это окажется то самое «Бог спас» или «черт попутал».

Отправить комментарий