USD 65,4201
EUR 74,0686
BTC 259865,1248
LTC 3989,6781
Наука / Hi-Tech / Источник: Газета.ru / 06.03.2019

Исследование: беспилотные машины не распознают темнокожих пешеходов

Hi-Tech, последние свежие новости сегодня: Исследование: беспилотные машины не распознают темнокожих пешеходов — читайте подробности от 06.03.2019 на «Diva News». Все события, интервью и репортажи этого дня (за последний час) и текущей недели с фото и комментариями.

Исследование: беспилотные машины не распознают темнокожих пешеходов

Расистский алгоритм

Технология беспилотных автомобилей, которые в будущем могут полностью вытеснить обычные машины с водителем, вызывает у скептиков большое количество вопросов — насколько безопасно их использование, как они будут справляться с моральным выбором в критической ситуации и как повлияют на дорожную ситуацию. Теперь в этом списке появился еще один повод для беспокойства — беспилотники потенциально опасны для людей с темным цветом кожи.

Как сообщается в исследовании Технологического института Джорджии, темнокожие пешеходы имеют больше шансов быть сбитыми самоуправляемым автомобилем. Дело в том, что многочисленные датчики, установленные в таком транспорте, лучше распознают людей со светлым тоном кожи.

Авторы исследования задались вопросом, насколько хорошо система распознавания препятствий в беспилотниках справляется с разными демографическими слоями общества. Они взяли большую базу данных с фотографиями пешеходов и разделили их на разные группы по тону кожи согласно шкале Фитцпатрика.

Оказалось, что датчики хуже реагируют на людей с тоном кожи от 4 (средиземноморского) фототипа до 6 (афроамериканского). При этом погрешность составляет не менее 5%. На нее не влияют даже внешние факторы, включая смену дня и ночи.

Один из авторов исследования Джейми Моргенштерн посоветовал обратить повышенное внимание на беспилотники, использующие системы распознавания, указанные в работе.

Известно, что алгоритмы и компьютерные системы могут перенимать предрассудки и предвзятость у своих создателей, в том числе и расистские наклонности.

Самый резонансный случай на эту тему случился в 2015 году, когда система распознавания изображений от Google определила фотографии темнокожих людей как снимки горилл.

Кроме того, ученые выяснили, что система распознавания лиц IBM и Microsoft чаще ошибается при определении гендера по фотографии, если на ней изображен человек с более темным тоном кожи.

Так как алгоритмы «учатся» на примерах, которые загружаются людьми, у них могут возникнуть трудности в работе, если эти примеры не отличались большим разнообразием. Авторы работы о «расистских» беспилотниках предполагают, что алгоритмы распознавания препятствий могли оттачивать свой функционал именно на белокожих пешеходах, так как разработчики не предоставили им достаточно примеров с людьми иных рас.

На текущий момент эта проблема сохраняется как в начинающих стартапах, так и в крупных корпорациях, занимающихся искусственным интеллектом и нейросетями. Для ее решения в будущем потребуются специальные тесты, которые будут распознавать алгоритмическое смещение и своевременно его исправлять. Кроме того, в команде разработчиков должны быть представлены представители различных социальных групп, которые различаются по гендеру, расе и национальности — такие меры помогут снизить предвзятость ИИ, считают в исследователи.

Первая смерть

В марте 2018 года произошел несчастный случай со смертельным исходом при участии беспилотного автомобиля Uber. Машина, в которой находился оператор, сбила женщину, переходящую дорогу со своим велосипедом в темное время суток. Известно, что оператор по имени Рафаэла Васкес в тот момент отвлеклась от дороги, так как смотрела видео на своем смартфоне.

Когда Васкес наконец заметила пешехода, то было уже поздно — автомобиль сбил женщину насмерть.

После этого случая компания Uber Technologies временно прервала тестирование беспилотных автомобилей. Стало известно, что причиной аварии мог быть сбой в работе программного обеспечения. Как сообщалось, автомобиль «увидел» женщину, однако посчитал, что останавливаться из-за этого «препятствия» не стоит.

Согласно заявлению прокуратуры округа Явапай, в котором произошла авария, Uber Technologies не понесет уголовной ответственности за случившееся. Прокурор Шейла Полк заключила, что видеозапись ДТП не полностью отражает момент столкновения. В связи с этим дело вернули в полицию города Темпе, где произошла трагедия, для поиска новых доказательств.

При этом судьба Рафаэлы Васкес пока остается невыясненной — вероятно, отвечать за ДТП придется ей. Ранее следствие пришло к выводу, что случившееся можно было предотвратить.

Пожалуйста, поделитесь новостью с друзьями:

или оцените эту статью:
Комментарии к новости
Добавьте свой комментарий:



Найденный винт проливает свет на тайну гибели Boeing 737 Max 8
Hi-Tech / 15.03.2019
Спустя пять суток после крушения в Эфиопии новейшего самолета появляются новые подробности последних минут полета самолета, Boeing 737 Max 8, чьи черные ящики лишь накануне были доставлены для расшифровки во Францию. Выясняется, что капитан разбившегося самолета объявил сигнал тревоги почти сразу после..
Эксперт рассказал, чем грозят Boeing катастрофы самолетов
Hi-Tech / 14.03.2019
— Можете ли вы сказать, что происходящее сейчас в мире после двух катастроф Boeing 737 Max 8 является неким индикатором кризиса в авиации? — Несомненно. События, последовавшие за катастрофой в Эфиопии, по-моему, не имеют прецедента. Президент Дональд Трамп лично был вынужден вмешаться в стремительно..
Создатель Всемирной паутины назвал ее «неблагополучной»
Hi-Tech / 12.03.2019
Сеть пора спасать Тридцать лет назад на свет появилась Всемирная паутина (WWW, или World Wide Web), которая связала миллиарды людей по всему миру. Тем не менее, создатель WWW Тим Бернерс-Ли не совсем доволен тем, как сейчас используется его изобретение, и рекомендует «исправить сеть к лучшему», пока не стало..
Почему в России у стартапов есть все шансы умереть в любой момент
Hi-Tech / 11.03.2019
— Как вы охарактеризуете российский венчурный рынок? В чем его отличие от западного? — Наш «рынок» отличается тем, что, на мой взгляд, его в полной мере нет. Нормальный венчурный рынок – это законченная модель от стадии идеи до выхода компании на IPO или покупки ее глобальной корпорацией. Венчурная экономика..
Кандидат в президенты США бросила вызов Кремниевой долине
Hi-Tech / 11.03.2019
Кандидат в президенты США от демократов Элизабет Уоррен пообещала «сломать» Facebook, Google и Amazon, если она одержит победу на выборах 2020 года. О своих обещаниях Уоррен рассказала на блог-платформе Medium. «Двадцать пять лет назад Facebook, Google и Amazon не существовали. Теперь они входят в список..
В авиакатастрофе в Эфиопии погибли трое россиян
Hi-Tech / 11.03.2019
Крушение пассажирского лайнера Boeing 737 в Эфиопии, в котором погибли 157 человек, в том числе трое россиян, в первые моменты после трагедии воспринималось как очередная, но тем не менее редкая катастрофа самолета 737 семейства Boeing в далекой африканской стране. Однако когда было объявлено, что в Африке..
Когда женщины, работающие в IT-индустрии, добьются равноправия
Hi-Tech / 08.03.2019
Женщинам меньше доверия Hi-tech индустрия ассоциируется в общественном сознании не только с техническим, но и социальным прогрессом, с той частью человеческой деятельности, которой чужды расовые, гендерные и социальные предрассудки. На этом фоне удивительной оказывается статистика и результаты исследований,..
Умер создатель ручного калькулятора Джерри Мерриман
Hi-Tech / 06.03.2019
Изобретатель с детства Изобретатель Джерри Мерриман, один из трех создателей электронного калькулятора, скончался в больнице Далласа в возрасте 86 лет. Об этом сообщила его падчерица Ким Икович. Его госпитализировали в конце декабря из-за осложнений, возникших после операции по установке..
Глава Amazon Джефф Безос снова стал богатейшим человеком мира
Hi-Tech / 05.03.2019
Ничто не вечно под луной Бизнес Amazon процветает, как и его основатель — в 2019 году самым богатым мужчиной мира вновь стал Джефф Безос, чье состояние составляет $131 млрд. Это на $19 млрд больше, чем год назад. В 2018 году Безос стал первым человеком, возглавившим список миллиардеров Forbes с капиталом,..
Маск: Tesla закроет все свои магазины
Hi-Tech / 01.03.2019
«У нас нет другого выхода» Ожидания Илона Маска касательно того, что производитель электрокаров Tesla больше не будет убыточным, не оправдались. Во время конференц-колла с журналистами бизнесмен заявил, что в первом квартале 2019 года прибыли от компании ждать не стоит. «Учитывая, что в первом квартале много..