Исследователи Массачусетского технологического института опубликовали результаты масштабного онлайн-опроса, в рамках которого поставили пользователей перед сложным моральным выбором. На специальном сайте под названием The Moral Machine более 2 миллионов человек из 233 стран отвечали на вопрос: кого должен сбить самоуправляемый автомобиль в сложной ситуации? Результаты оказались весьма неожиданными.
Тест состоит из 13 вопросов, которые меняются при каждом прохождении. В них пользователю нужно решить, как должен поступить беспилотный автомобиль в сложной ситуации. Например, сбить мужчину или женщину, ребёнка или взрослого, собаку или кошку и т.д. Кроме того, в некоторых вариантах предлагается наехать на пешехода или же разбить машину и тем самым убить всех пассажиров в ней. Ниже представлены некоторые из вопросов:
На основании порядка 40 миллионов ответов исследователи подвели итоги. Как выяснилось, респонденты в большинстве случаев готовы спасти других людей, пожертвовав животными, и молодых вместо стариков. Если же трагедии не избежать ни в каком случае, то зачастую голосуют за вариант с наименьшим количеством жертв. Реже всего проголосовавшие спасали котов, преступников и собак.
Также интересно, что ответы сильно зависят от стран. Так, жители южных регионов чаще голосуют за спасение молодых людей, а вот на востоке ситуация обстоит с точностью до наоборот.
Источник:
"Результаты оказались весьма неожиданными."
" Реже всего проголосовавшие спасали котов, преступников и собак."
- По моему автор статьи первым делом спас бы кошек и собак, по этому для него такие результаты неожиданные, следовательно он решил запостить данную статью)))
Всё, уезжаю в деревню. Беспелотные автомобили ваши нам не нужны!
В Америке лучше сбить кошку, в Китае собаку, В России сбили сам автомобиль
Это что, проголосовавшие за долю секунды в аварийной ситуации за рулем авто умеют определять кто преступник, а кто нет? Или у самого беспилотного автомобиля есть система распознавания "преступник/законопослушный"? Какой же бред.
Точно) Но толстяков, стариков и животных теперь ИИ не пожалеет, если и обычные люди против них
Отличный повод похудеть ; )
тоже задался этим вопросом
Если бы всегда можно было бы просто затормозить, в мире бы не было аварий
Я задался похожим вопросом:
Насколько быстро должен ехать беспилотный автомобиль, чтобы даже его сенсоры, которые заведомо лучше человеческих органов, т.к. не имеют понятия "усталость", "пролюбил поворот", ну и т.п., не успели заметить и просчитать ситуацию? Насколько медленной, в сравнении с человеком, должна быть реакция робота?
Как по мне, полнейший бред. ИИ не устаёт. ИИ не может принять логически неверное решение.
Гораздо легче взять профессионального водителя, который прошёл курсы экстремального вождения (по типу как на полигоне ФСО катаются), и с него скопировать разные типичные случаи ПРЕДОТВРАЩЕНИЯ сложной ситуации.
На кой чёрт учить беспилотник сбивать котиков вместо людей, если можно, к примеру, выбрать траекторию, по которой беспилотник "прочертит бортом" по стене, ударит что-то по касательной, чем и снизит энергию удара!
Если бы ты поменьше каментил и внимательнее читал статьи на 4PDA, то знал бы, например, о китайском эксперименте по социальному капиталу для граждан. Считать данные рейтинга и выбрать направление в сторону наименее ценного члена общества - не такая уж сложная задача.
Считывание рейтинга автомобильной камерой по силуэту человека где-то вдали и на скорости? Научной фантастики пересмотрел?
А считать удаленно инфу с расстояния 30-50 метров это уже научная фантастика?
Аааааа, понял. ты думаешь что робот получает инфу только "автомобильной камерой". Гуманитарий что ли?
С другой стороны, если авто получает данные не только с камеры, а ещё и удаленно, какого хрена происходит экстренная ситуация?
Это очень хороший вопрос.
Самоубийца выпрыгнул перед машиной? Или дети побежали за мячиком на проезжую часть? Или авто с живым водителем создало аварийную обстановку. Люк, плохо закрепленный дорожниками?
Речь идёт о том, чтобы сбить человека, который нарушил правила (перешёл не в том месте или другое нарушение) или сделать маневр и сбить собаку/кота
Вряд ли, потому что:
1 - человек, перешедший дорогу в неположенном месте не преступник, а правонарушитель
2 - на картинке с результатами опроса изображен убегающий человек с сумочкой и надпись criminal
А как по другому его изобразить. На третьей фотке есть пример такого criminal, девушка переходит на красный свет
Ag|\/|u|-|иcTраTuВнbIu' правонарушитель*
(По-другому это слово не написать)
Правонарушитель - это президент)
Это тупо социальный тест, типа тех что были раньше- едет поезд,впереди пять человек, если толкнуть одного человека поезд сойдет с рейс можно спасти пять человек убив одного.. ваш выбор?
Ну может такая система распознавания и будет в будущем.. Если депутат, то собьют в последнюю очередь, если дворник или кошка, то в первую.
Возможно, здесь, имеет место быть, неправильный перевод. Я подозреваю, что под преступником подразумевается человек, создавший аварийную ситуацию, "нарушитель".
Все правильно ,в Китае считают что с кота навар меньше чем с собаки
Это наверно нужно для того что бы если их машина сбила кота вместо молодого человека, люди заткнулись и не противились технологиям говоря что они опасны и убивают кототиков - ведь сами решили что люди важне.
Умно
Из собаки шавуха лучше выйдет)))😂😂😂
Грузин сдает экзамен на водительские права. Инспектор его спрашивает: — Вот едешь ты, дарагой, на машине по горной дороге. Справа — скала, слева — обрыв. Впереди две женщины: молодой и старый. Кого давить будешь? — Конечно, старый! — Нэт тебе прав, дарогой, тормоз давить надо!
Обычные люди убивают и тех и тех
На самом деле, там в самом низу списка не поместился ещё один пункт "Автор этой статьи". Прямо под кошками.
ИИ убивал котикам разрешить людей
котики наносят ответный удар
Ай кросавчег
Я бы тоже лучше котика спас, чем человека...
А этот человек был бы твоим сыном или дочерью.
рассуждай логически. ИИ знает правила дорожного движения. если на дороге оказались мои сын или дочь, то они де факто нарушители ПДД не знают. кто виноват? Я, раз я не научил их. А вот котик не виноват что ПДД не знает, на то он и котик.
Незнание
прав не освобождает от наезда
А если это был твой котик?(
И я за кошек и собак.
Ой, не заметил автора статьи, теперь всё ясно
У вадяна просто феноменальная способность создавать, мягко говоря, странные заголовки "своих" статей.
Слишком мягко
С чего вдруг, большинство людей бесполезны
не думаю, что кожаные блюдки достойны решать кому жить, а кому нет. Это есть фашизм и не практикуется в цивилизованном обществе.
Соблюдаи ПДД
Воруй, убивай )))
Заголовок в стиле Вадима.
апиридил
А среди котов не провели опрос-нагадить в тапки или на ИИ?
Ну вадим по прыколу выложил
В том, что было бы неплохо ставить подушки безопасности, наверное, раз пассажиры умного авто в любом случае погибают.
Автор офигел, что спасают людей, а не кошек.
А чего их спасать? Они и так десятками под колесами гибнут. Если бы в городе в одночасье потравили всех бездомных котов, никто бы ничего не почувствовал, кроме бабушек, что их кормят.
Если бы в городе разом потравили всех gelfer1979, никто бы ничего не почувствовал.
Я ж пошутил, кажись.
смысл ИИ? ))) ИИ должен управлять ТС так, чтобы никого не приходилось сбивать, а если не может нафиг такой ИИ. Вот в чем смысл статьи.
люди разрешили ИИ убивать
нет не совсем, просто это менталитет...
Вы о менталитете какой группы говорите? Это международное исследование было.
про южную и восточную... И про другие...
Понятие зла и добра искусственно и придуманы самим человеком для манипуляции сознанием
чьим сознанием? котиков? :)
Не злые, а умные унд прагматичные. Котиков ведь потом можно съесть! В котиках есть витамин С, а в человечине - нет. Такшта с позиций профилактики цинги, например, - выгоднее убивать котиков.
Людей тоже можно есть, если что)Выживает сильнейший)
Т.о. необходим беспилотник-комбайн.И доехал куда надо,и мясом впрок запасся...Главное,самому пешком не ходить...
Не оставлять же их валяться на асфальте. А так культурно даже не заметишь что кого то сбил. Нет трупа нет аварии. Идёт теща сбил а мясо потом в мусорку слил))
достаточно собаку иметь.Зачем добру пропадать?
Молодой преступник или старик хороший врач?
Что одному добро, другому зло. Вот такой моральный парадокс.
Если бы у меня выбор стоял кого спасти, я бы выбрал животного а не человека.
Но за сбитого на зебре человека тебя посадят, а за собаку - нет.
В общем-то здравая мысль. Но пасадят только если денег кому надо и сколько надо не занесёшь, а если не захочешь что бы посадили то найдёшь выход. А вот за сбитого песеня до конца жизни совесть будет мучить.
ну ок, пусть сажают ии в моей машине
Чертовски здравый комментарий. Аналогично поступил бы.
Человек является самым опасным и аморальным зверем, ценность человеческой жизни искусственно завышена в сравнении с жизнью любого другого организма.
Вы не написали ничего, что могло бы противоречить с моим прошлым комментарием.
Ценность в общем и ценность в частности понятия отличающиеся.
(Комментарий удален)
(Комментарий удален)
(Комментарий удален)
(Комментарий удален)
Кошка "играет" с едой инстинктивно ибо потенциальная пища может оказаться ядовитой, заразной или опасной в плане травматизма, измождённая жертва уже становится доступной пищей... Вы же знаете, что многие яды и болезни не опасны при попадании в пищевод и смертельны при попадании в кровь? Даже царапина может стать причиной гибели...
Саморегуляция в природе и естественный отбор рождают в человеке многие неприемлемые качества включая рассизмм, гомосексуализм и другие патологии которые противоречат моральным устоям. Остальные виды являясь менее успешными и разумными не так подвержены самоунечтожающим факторам.
У голодной кошки может не хватить сил на "игру". Дикие кошки не редко погибают от голода, не имея достаточно энергии для поимки жертвы
А мамаша и папаша у тебя тогда кто?
Спасти рядового котика
Мяу! 🐱
Картинка 🔥🔥🔥
Тут как бы намёк, что у машин с ИИ отсутствует такая функция, поэтому надо выбирать, кого сбивать или разбиваться о ближайшую стену.
В таком случае лучше разбиваться о стену, чем убивать котика
Речь идёт о ситуация когда тормозить поздно.
На самом деле, видел на ютубе не мало роликов с авторегистратора, где водитель, избегая столкновения с другими машинами или препятствиями, наезжает на людей. Вот только ИИ, по идее, не должен допускать подобной ситуации вообще. В 99% таких роликов причина, по которой водитель попадает в подобную ситуацию, в несоблюдении ПДД либо самим водителем, либо пешеходом (если тот выбегает где попало). ИИ должен идеально следовать правилам. А в исключительных случаях, к примеру, если тормоза отказали, лучше, конечно, затормозить машину об какое-нибудь препятствие и избежать жертв. У сидящих в машине шансов выжить больше: основной удар на себя примет корпус, а также есть ремни и подушки безопасности.
А кто захочет покупать машину, зная, что она будет приоритетно спасать других?
На сайте MIT такая категория (переходящие на красный свет) есть. А также жирные и бомжи.
Жирных сбивать нельзя машину в лепешку , а бомжа сбить жалко его уже жизнь наказал достаточно. Остаётся молодняк )))
На картиночке в начале статьи усреднённые результаты есть. Сначала котики, потом преступники, собачки, старики обоего полу, бомжи, жирные мужики, жирные тётки - на этом закачивались категории в минусе.
Переходящие на красный свет там, кстати, были не как категория, а как часть ситуации, т.е. на красный мог кто угодно идти.
)))))
сбив ими самих разработчиков и будет поставлена точка в этой теме
Megaboson,
Доведенные до ума нужны. Эта система не будет сонной или нервной или с бодуна. И видеть будет гораздо больше и дальше водителя.
И как в любом компьютере может случиться сбой.
Несмотря на десятки лет разработок -нет программ, не подверженных сбоям.
Но нет и людей, с которыми не случится сбой
В этом и дилемма
Прошу можно дополнить, а людей не допилишь.
Вот именно..
Идея заключалась в том, чтобы понять, какое поведение беспилотного автомобиля будет более этически приемлемым (или менее этически неприемлимым) для людей, и на основе полученных результатов программировать беспилотный автомобиль.
более этически приемлемым будет отмаена запуска такого авто, которое не в состоянии будет обойтись без жертв. Нахрен оно нужно?
Автомобили, управляемые людьми, приводят к сотням тысяч смертей. Если автомобиль на ИИ существенно снизит показатель смертности, то он уже благо.
А опрос этот крайне важен — подобные ситуации не всегда возможно предотвратить и поэтому ИИ должен выбрать лучшее из плохих решений.
Опять же - если, а если не снизит, а увеличит?
Т.е. отмена запуска беспилотных автомобилей совсем, и оставление ответственности на живых водителях (не готов сейчас подтверждать конкретными ссылками, но в пересчёте на пробег количество жертв на текущем уровне развития беспилотников кардинально ниже).
Все забывают что у людей жизнь 1 а у кота целых 9
По условиям теста тормоза не работают. Можно только рулить.
Что вы предпочтёте — тысячи смертей с виновниками или сотню без виноватых? К тому же материальную часть ответственности можно застраховать. Или вам обязательно посадить побольше водителей неймется?
Кому нужна эта материальная часть если человека не будет в живых?
Про посадить водителей тоже плохой вариант, он к примеру сбивает на смерть человека и садиться в тюрьму. Потом выйдет и будет жить, а человека уже нет. Надо применять адекватные меры, чтобы ответственности было больше. И соответственно всё это к ИИ не применимо.
Опять людям прививают вредные идеи под видом опросов/исследований/открытий английских ученых и тд.
Почему нет варианта просто остановиться или проехать по обочине и тд?
Бредом я нарекаю этот тест 😎
В реальной ситуации есть много вариантов, но жертвы в любом случае приходится ранжировать. Исследователи пытались понять, как именно.
Самое простое, это снижать скорость в автоумныхавто и не гонять, мне кажется.
Не очень я верю в этот тест. Он слишком примитивный.
Ещё раз, это модельный тест для выяснения приоритетов этических приоритетов людей, в случае, если жертв нельзя избежать. Именно поэтому он предельно упрощён - ровно два варианта, из которых надо выбрать.
Тест не имеет отношения к тому, с какой скоростью автомобиль должен ехать и как управляться, исключительно про то, что делать, когда с управлением автопилот уже не справился.
Еще раз что? 😅
И что он моделирует? Какие выплаты страховые придется делать производителю автоумныхавто?
Ничего он не моделирует. Просто насаждает бредовые идеи в головы 👽
Кому идеи то насаждает? Автопилотам?
Ещё раз - почитайте что-ли описание эксперимента где-нибудь кроме 4pda. Исходная посылка следующая, как не совершенствуй автопилот, в принципе невозможно создать систему управления избегающую аварий на 100%. В любом случае остаётся вероятность ситуации, когда автопилот должен выбирать, убивать ли ему своих пассажиров (об отбойник, в кювете, и т.п.) или пассажиров (пьяного на красный свет, и т.п.) А дальше в суде, в прессе, в упомянутой страховой будут спрашивать, почему автопилот принял то или другое решение.
Задача эксперимента - задавая вопросы людям выяснить, за кого будут долбать больше. А чтобы люди не увиливали как вы в первом комментарии (снизить скорость, свернуть на обочину и т.п.) эксперимент сводится до уровня дилеммы вагонетки, с примесью рандома.
Я и говорю, что это не ради людей, а ради судов и денег проводится исследование.
В нормальной жизни у нормального человека в голове не должно быть вопросов как из этих текстов. Окна Овертона погугли, если есть желание.
Читал про эти окна не один раз. Как моделька забавно, на практике требует нереальной согласованности действий, как любая конспирологическая теория.
Высокая сложность задачи еще не делает ее нереализуемой 😉
И речь не про "нормальную жизнь нормального человека", а крайне редкую ветку работы специфической программы, результаты работы которой потом будут оценивать люди. При этом проводить тестирование этой ветки программы в реальных условиях - действительно неэтично.
Что касается "людей, на мышление которых повлияют" - в те самые секунды, когда в такой ситуации оказывается водитель-человек, он обычно на уровне рефлексов спинного/рептильного мозга реагирует, до осознания дело не доходит.
В прикладном плане действительно невозможно создать на 100% безопасный автопилот. Но, в этом и нет смысла.
А вот создать тормоза с большой скоростью реакции и ограничить максимальную скорость гораздо проще.
Поэтому, такие тексты преследуют другие цели, я думаю.
Скорость реакции увеличивать уже некуда, замедление увеличить можно (условно говоря из днища лом пиропатроном в асфальт вбивать), но это уже значит убивать пассажиров.
Скорость автопилотам тоже ограничивают, очевидцы в Калифорнии пишут, что ехать за self-driving car крайне нудно.
А тест ровно за тем, за чем озвучено, как поступать, когда нет возможности избежать аварии. К действиям человека в такой ситуации вопросов не будет, к действиям автопилота будут до последней доли секунды.
В частности, кстати, эксперимент выяснил, что для Европы/Америки, Ближнего Востока и Юго-Восточной Азии ранжирование придётся настраивать по разному.
Надо настраивать для чего?
Для минимизации судебных и страховых выплат. Так что, автоумныеавто и тексты из ставить - это бред и лицемерие.
На данный момент машины с полным автопилотом ездят в режиме тестирования в ограниченных зонах, и юридическую ответственность несёт фирма разрабочик беспилотного автомобиля, она же хозяин машины
А если ты собьёшь кого-нибудь на Тесле, включив их "помощник в управлении" и убрав руки с руля, то да, посадят. А Тесла ещё сольёт полиции данные о том, что ты делал в машине перед аварией.
при том, что nvidia и прочие встраивают ИИ в автомобили уже сейчас. Этот сайт ловко выспрашивает у общественности с подачки нвидии, кого можно давить.
Не отвлекай ученых своими ненаучными вопросами 🤓
Тут наука, а у тебя нет 😅
Рассматривается ситуация когда тормозить уже поздно/тормоза отказали.
Что за бред? 😅
Давайте делать не нормальные тормоза, а проводить тесты кого дешевле сбить? Ерунда это все и дурацкие оправдания для такого рода исследований.
Не бывает тормозов, которые не ломаются. Не бывает таких алгоритмов, которые могут предугадать ломанувшегося на красный алкоголика, или автомобиль прилетевший со встречки.
А "кого дешевле сбить" работает уже в ситуация "unavoidable collision" - "авария, которую невозможно предотвратить".
жизнь не та,
Он теперь вместо кота.
ИИ например будет влавствовать жизнью пассажиров и окружающих на основе опроса посторонних людей ?
Есть правила написанные кровью, нужно стараться их придерживаться, а если есть какие то вариации законных действий при аварии, владелец должен иметь возможность самостоятельно установить приоритет.
Естественно, при условии, что пешеход не нарушил пдд.