IBM объявила технологии распознавания лиц злом и не будет их развивать — cnews.ru
Ruby Ludwig Valentin
8 632 17:11 09.06.2020
IBM отказалась от разработки программного обеспечения и оказания услуг по распознаванию лиц на фоне массовых протестов в США. Глава IBM заявил, что компания не хочет развивать технологии, которые могут быть использованы «для массового наблюдения и нарушения базовых прав и свобод человека», и предложил обсудить возможность запрета на их использование правоохранителями. Американские СМИ со ссылкой на информированные источники заявляют, что бизнес корпорации по распознаванию лиц не был в достаточной мере прибыльным, а решение о выходе из него было принято загодя.
Американская корпорация IBM больше не будет заниматься разработкой или продажей программного обеспечения и услуг по распознаванию лиц. Компания также откажется от исследований по этому направлению, пишет The Verge со ссылкой на письмо главы (СEO) IBM Арвинда Кришны (Arvind Krishna) в адрес конгресса США.
В IBM опасаются, что применение технологий распознавания лиц может приводить к нарушению базовых прав человека и расовой дискриминации.
«IBM выступает против использования технологий распознавания лиц, в том числе предлагаемых другими поставщиками, для массового наблюдения и расового профилирования, а также ведущих к нарушению основных прав и свобод человека или любых целей, которые не соответствуют нашим ценности и принципам доверия и прозрачности», — говорится в письме.
Кришна также отметил, что искусственный интеллект (ИИ) является мощным инструментом, который способен помочь правоохранительным органам обеспечить безопасность граждан, но поставщики и пользователи ИИ-систем несут общую ответственность за качество тестирования алгоритмов на предвзятость, в особенности при использовании органами охраны порядка.
IBM призвала к общенациональному диалогу на тему того, как следует применять технологии распознавания лиц в работе правоохранительных органов и стоит ли их использовать вовсе. Кроме того, в своем письме CEO «Голубого гиганта» предложил ряд мер, которые, как предполагается, поспособствуют «достижению расового равенства» в США. Почему именно сейчас
Корпорация не объясняет своей выбор момента для объявления о прекращении развития технологий распознавания лиц. О своем решении IBM сообщила на фоне массовых акций протеста в США, которые были спровоцированы кончиной Джорджа Флойда (George Floyd). Афроамериканец погиб при задержании представителями полиции Миннеаполиса (штат Миннесота), которых позднее обвинили в излишней жестокости.
По данным американского телеканала CNBC, бизнес IBM по распознаванию лиц и так не приносил компании существенного дохода. Источники агентства Reuters, знакомые с вопросом, сообщили что решение об отказе от развития продукта были приняты задолго до истории с Флойдом — еще несколько месяцев назад. Предвзятость систем распознавания лиц
Как отмечает The Verge, ПО для распознавания лиц значительно улучшилось за последнее десятилетие благодаря достижениям в области искусственного интеллекта. В то же время технология, развитие которой в США ведется силами частных компаний, обделенных вниманием регуляторов, страдает от предвзятости по признаку возраста, расы и этнического бэкграунда. Из-за этого инструменты на ее базе могут ненадежными и неподходящими для применения правоохранительными органами.
Исследование Национального института стандартов и технологий (NIST), опубликованное в декабре 2019 г., выявило «эмпирические доказательства существования широкого диапазона точности в демографических различиях в большинстве современных алгоритмов распознавания лиц, которые оценивались». Технология, помимо прочего, была раскритикована за ее роль в нарушении конфиденциальности.
Стоит отметить, что исследование NIST не включало технологию распознавания лиц корпорации Amazon под названием Rekognition, которая в числе немногих техногигантов, поставляющих соответствующее ПО органам охраны правопорядка. В 2018 г. Американский союз гражданских свобод (The American Civil Liberties Union) выявил некорректную работу алгоритма Amazon. Rekognition тогда ошибочно идентифицировал 28 членов американского конгресса на фотографиях из публичной полицейской базы задержанных преступников, состоящей из 25 тыс. снимков. США постепенно запрещают технологию, Европа подумывает о моратории
Власти некоторых американских городов США уже ввели запрет на машинное распознавание лиц. Так, в 2019 г. Сан-Франциско, Окленд и Сан-Диего были в числе тех городов, которые одними из первых запретили технологию распознавания лиц, сославшись на то, что эта она имеет ряд серьезных ограничений, способствует предвзятости в отношении национальных меньшинств. Кроме того, технологии вменялось отсутствие стандартов в отношении ее использования.
Европейский Союз, по сообщению Reuters, рассматривает вопрос о введении пятилетнего моратория на применение технологий распознавание лиц в общественных местах, в том числе в парках, спортивных площадках, а также в зонах притяжения туристов. Подобная мера могла обеспечить властям ЕС достаточное время на тщательную проработку законодательства, которое могло бы гарантировать отсутствие злоупотреблений технологией со стороны ее операторов.
В апреле 2020 г. стало известно, что Microsoft сворачивает инвестирование в израильский стартап Anyvision, занимающийся распознаванием лиц после того, как тот оказался в центре скандала. Корпорация решила прекратить инвестиции во всю отрасль, хотя у нее есть собственная разработка такого рода.
Представители Microsoft неоднократно утверждали, что компания никогда не будет продавать свои технологии распознавания лиц для решений, связанных с массовой слежкой. И что, хотя к Microsoft обращались с предложениями о покупке представители неких правоохранительных органов, им было отказано из опасений, что данные инструменты будут использованы для нарушения гражданских прав.
В марте 2020 г. компания Clearview AI, скандальный разработчик систем распознавания лиц, претерпела кибератаку, в результате которой утекли данные о ее клиентах.
17:23 09.06.2020
А как быть с Facebook, где вас отмечают на фото с встречи одноклассников, свадьбы вашего кузена или летней вечеринки на работе.
Как быть с программами Google, Microsoft, Apple и так далее где уже встроены приложения для накопления информации.
Как быть с вашими телефонами – где при помощи таких программ вы можете его разблокировать. Или если вам нужно подтвердить свою личность для банковского перевода в £1,000, достаточно просто посмотреть в камеру.
17:31 09.06.2020
Жильцы, одного из подъездов, в котором установлена видеокамера, обратились в полицию с заявлением на хулиганов, которые пакостили в подъезде. Полиция на видеоматериале с камер этого подъезда никого из посторонних в заявленное время не обнаружила. Вот так вот, люди невидимки. А самое интересное с угонами машин в столице. Видеокамер полно, а «эпидемия коронавируса» бесследно поглотила у некоторых машины.
17:37 09.06.2020
Свежо предание, но верится с трудом.
Ruby Ludwig Valentin (Mad_and_crazy) писал (а) в ответ на :
> В IBM опасаются, что применение технологий распознавания лиц может приводить к нарушению базовых прав человека и расовой дискриминации.
Осталось объяснить всем, что имеется тут ввиду. Ну ладно еще с правом на частную жизнь, но расовая-то дискриминация при чем? Черных ночью не видно?
19:01 09.06.2020
Ruby Ludwig Valentin (Mad_and_crazy) писал (а) в ответ на :
> IBM объявила технологии распознавания лиц злом и не будет их развивать — cnews.ru
Свято место пусто не бывает...
20:22 09.06.2020
Ruby Ludwig Valentin (Mad_and_crazy) писал (а) в ответ на :
> Кришна также отметил, что искусственный интеллект (ИИ) является мощным инструментом, который способен …
— технологии «ИИ» созданы и будут развиваться независимо от «решений» отдельных компаний, лиц или ученых… — другой вопрос, сможет ли цивилизованное общество взять под контроль вопросы их использования, как, скажем, с ядами, оружием, террором,…
Мой ответ (очевидный из практики): — частично — сможет, но не все — ровно как с террором и преступниками — законы есть, но и преступления — тоже… — все станет намного «стремнее», когда появится настоящий ИИ — его за решетку уже не посадишь… — он сам кого надо посадит
22:36 09.06.2020
Наблюдатель (Реалист) писал (а) в ответ на :
> Ruby Ludwig Valentin (Mad_and_crazy) писал (а) в ответ на сообщение:
>> IBM объявила технологии распознавания лиц злом и не будет их развивать — cnews.ru
>Свято место пусто не бывает...
Это точно. У нас давно ведутся работы над такими программами, лет десять по крайней мере. Думаю, что давно уже всё создано.
22:55 09.06.2020
Лиса (Лиса) писал (а) в ответ на :
> Наблюдатель (Реалист) писал (а) в ответ на сообщение:
>> Ruby Ludwig Valentin (Mad_and_crazy) писал (а) в ответ на сообщение:
>>> IBM объявила технологии распознавания лиц злом и не будет их развивать — cnews.ru
>>Свято место пусто не бывает...
>Это точно. У нас давно ведутся работы над такими программами, лет десять по крайней мере. Думаю, что давно уже всё создано.
Конечно. У нас тоже.
23:04 09.06.2020
Программы нужные. IBM просто напугалась, что их разгромят там.
