Место для рекламы

Майкрософт разогнала экспертов по этике ИИ, которые мешали повторить триумф другого ИИ

news/top/2023-03-14_microsoft_razognala_ekspertov 14 марта 2023

Microsoft упразднила комиссию по этике и обществу, которая курировала соблюдение компанией принципов ответственного использования искусственного интеллекта. В частности, в ее задачи входило выявление возможных проблем, которые могли бы возникнуть в будущем из-за внедрения ИИ. По некоторым данным, деятельность группы инженеров, дизайнеров и философов, негативно сказывалась на скорости вывода ИИ-продуктов компании на «разогретый» ChatGPT рынок. Под давлением высшего руководства Microsoft команда сперва была зачищена, а спустя полгода и вовсе ликвидирована.
Ликвидированная команда осуществляла контроль за соблюдением принципов ответственного подхода к использованию ИИ, сформулированных Microsoft, при разработке собственных программных продуктов на базе нейросетей.

Несколько лет назад команда подготовила специальную настольную ролевую игру под названием Judgement Call («Спорное решение»), которая призвана помочь разработчикам сформировать представление о том, какой вред потенциально способен нанести искусственный интеллект и учесть возможные негативные последствия в процессе создания конкретного продукта на его основе. В последствии игра была включена в состав «инструментария ответственных инноваций» (Responsible Innovation Toolkit), опубликованного командой.

Как отмечает The Verge, конфликт в Microsoft иллюстрирует противоречивое отношение технологических гигантов к созданным ими же самими подразделениям по вопросам этики и общества. С одной стороны, эксперты такого рода обладают навыками прогнозирования сценариев злонамеренного использования создаваемых компанией технологий, помогая разработчикам избавиться от «узких мест» в сервисах и ПО до их выхода на рынок. С другой, они способны и «тормозить» или вовсе блокировать вывод продуктов на рынок, обозначая риски, которые могут обернуться головной болью для юридического отдела компании в среднесрочной и долгосрочной перспективе.

Говорить о полном отказе Microsoft от принципов ответственного использовании ИИ не приходится.
Следует иметь в виду, что ликвидированная команда все же была не единственной структурой, занятой вопросами этичного ИИ. В строю, согласно официальному сайту Microsoft, остаются ORA (Office of Responsible AI), RAISE (Responsible AI Strategy in Engineering и Aether Committee. Первая, к примеру, сформулировала шесть основных принципов ответственного использования ИИ:
справедливость (fairness);
надежность и защита (reliability & safety);
конфиденциальность и безопасность (privacy & security);
доступность (inclusiveness);
прозрачность (transparency);
подотчетность (accountability).

Опубликовал    16 мар 2023
0 комментариев

Похожие цитаты

Ночь

Мир окутала пологом ночь.
Пеплом стынет кострище заката.
Отступая, свет пятится прочь,
За моря и за горы куда-то…

Затихает сумятица дня.
В тишине растворяются звуки.
Ночь глядит с высоты на меня,
Простирая прозрачные руки…

Распахнув настежь створки окна,
Я впущу долгожданную гостью.
И отхлынет сомнений волна,
Что за день перемыла все кости…

Опубликовала  пиктограмма женщиныКристия  04 янв 2018

Родник

Из толщи скал на свет проник
Поток живой воды — родник,
Пробивший путь из сердца гор,
Под неба синего простор.

Прозрачный, чистый, как хрусталь,
Поток бежит по склону вдаль.
И, прежде мертвая земля,
Ожила в брызгах хрусталя…

От смеха звонкого воды,
Проснулись травы и цветы!
И серость хмурых, голых скал
Заполнил ярких красок вал!

Опубликовала  пиктограмма женщиныКристия  09 янв 2018

Дождь

Застелили тучи небо
Вдалеке грохочет гром.
Эх, успеть до дому мне бы,
Чтоб не мокнуть под дождем.

Только попросил у Бога
Я отсрочки час другой,
Как с небес воды потоки
Тут же хлынули рекой…

Льются струи водяные
Отмывают белый свет
Под раскаты громовые,
От угара смутных лет.

Опубликовал  пиктограмма мужчиныЧинганчгук  28 июн 2019