[Искусственный интеллект, IT-компании] Google просит сотрудников позитивней отзываться про ИИ
Автор
Сообщение
news_bot ®
Стаж: 6 лет 9 месяцев
Сообщений: 27286
Google просит своих сотрудников воздерживаться от представления ИИ-инструментов компании в негативном свете. Компания советует рецензентам поддерживать «позитивный тон» в своих обзорах.В соответствии с новой политикой Google исследователи должны консультироваться с юристами, прежде чем приступать к рассмотрению «деликатных тем». Согласно внутренним документам Google, изучение ИИ-сервисов компании на предмет предвзятости является одной из таких тем. Среди десятков других «деликатных тем» оказались нефтяная промышленность, Китай, Иран, Израиль, COVID-19, обеспечение безопасности жилья, страхование, данные о местоположении, религия, беспилотные автомобили, телекоммуникации и системы, рекомендующие или персонализирующие веб-контент.Как пишет Reuters, руководство Google рекомендует рецензентам искусственного интеллекта компании «проявлять большую осторожность и задавать позитивный тон». «Это не означает, что мы должны прятаться от реальных проблем, создаваемых программным обеспечением», — подчеркивают в Google. Тем не менее, некоторые штатные исследователи Google считают, что Google пытается их контролировать.«Если мы исследуем то или иное явление с учетом нашего опыта, и нам не разрешается публиковать наши выводы, это означает, что мы сталкиваемся с серьезной проблемой цензуры», — указывает старший научный сотрудник Google Маргарет Митчелл.Напряжение между Google и некоторыми из сотрудников компании обострилось после увольнения ученой Тимнит Гебру, которая вместе с Митчелл возглавляла команду по этическим вопросам работы ИИ Google. Гебру утверждает, что ее уволили за критику в адрес ИИ-инструмента по распознаванию и обработке речи. В ноябре Гебру в письме коллегам заявила, что Google стоит лучше работать над тем, чтобы ИИ компании «не закреплял гендерные предубеждения и не использовал оскорбительных высказываний». Руководство Google попросило Гебру убрать ее имя из рецензии. В ответ на это Гебру выставила компании ряд условий. В случае их невыполнения исследовательница пообещала «отработать в компании последние дни». По словам Гебру, руководство «приняло ее отставку». Гебру утверждает, что в отставку она не подавала, руководство решило все за нее.Руководитель ИИ-подразделения Google Джефф Дин заявил, что Гебру подробно описала потенциальный вред технологии, но не коснулась мер по его устранению, поэтому научная работа Гебру не соответствует требованиям компании. Он также подчеркнул, что ученая подала в отставку сама, так как в письме заявила о намерении покинуть компанию.В последние годы Google активно включает ИИ-инструменты в свои услуги. Компания использует искусственный интеллект для интерпретации сложных поисковых запросов, рекомендаций на YouTube и автозаполнения предложений в Gmail. По словам Дина, за последний год исследователи компании опубликовали более 200 статей о разработке ИИ. В одном из документов Google для научных сотрудников указано, что «все чаще кажущиеся безобидными проекты поднимают этические, репутационные, нормативные или правовые вопросы». Поэтому отныне консультации с юристами по поводу «деликатных тем» будут дополнять стандартную проверку рецензий на соответствие правилам компании и неразглашение коммерческой тайны.
===========
Источник:
habr.com
===========
Похожие новости:
- [Help Desk Software, Service Desk, IT-компании] Как мы свою helpdesk-систему пилили
- [Информационная безопасность, Google Chrome, Хранение данных, Браузеры] Google Chrome тестирует увеличение размера кэша для повышения производительности
- [Законодательство в IT, Финансы в IT, Игры и игровые приставки, IT-компании] Инвесторы возбудили коллективный иск против CD Projekt за ложные и вводящие в заблуждение заявления о Cyberpunk 2077
- [История IT, Процессоры, IT-компании] Инженер рассказал, что Intel продавала конкурентам Apple технологии, реализованные в первом MacBook Air
- [Алгоритмы, Облачные вычисления, Интернет-маркетинг, Управление e-commerce, Искусственный интеллект] Розничная цена: с головы или довериться алгоритмам
- [Машинное обучение, Искусственный интеллект] Приглашаем на Рождественский коллоквиум по компьютерному зрению
- [Производство и разработка электроники, Процессоры, IT-компании] Apple разместила первый заказ на чипы с 3-нм техпроцессом у TSMC
- [Машинное обучение, Искусственный интеллект, Игры и игровые приставки, Логические игры] DeepMind представила бота MuZero, который играет в старые игры и в шахматы
- [Разработка игр, Игры и игровые приставки, IT-компании] Патч 1.06 для Cyberpunk 2077 убирает ограничение на размер файла сохранения в 8 МБ
- [Аналитика мобильных приложений, Статистика в IT, Социальные сети и сообщества, IT-компании] 2020 – год всемирной мобильности (как бы иронично это ни звучало) (перевод)
Теги для поиска: #_iskusstvennyj_intellekt (Искусственный интеллект), #_itkompanii (IT-компании), #_google, #_iskusstvennyj_intellekt (искусственный интеллект), #_tsenzura (цензура), #_timnit_gebru (тимнит гебру), #_dzheff_din (джефф дин), #_iskusstvennyj_intellekt (
Искусственный интеллект
), #_itkompanii (
IT-компании
)
Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете голосовать в опросах
Вы не можете прикреплять файлы к сообщениям
Вы не можете скачивать файлы
Текущее время: 25-Ноя 10:54
Часовой пояс: UTC + 5
| Автор | Сообщение |
|---|---|
|
news_bot ®
Стаж: 6 лет 9 месяцев |
|
|
Google просит своих сотрудников воздерживаться от представления ИИ-инструментов компании в негативном свете. Компания советует рецензентам поддерживать «позитивный тон» в своих обзорах.В соответствии с новой политикой Google исследователи должны консультироваться с юристами, прежде чем приступать к рассмотрению «деликатных тем». Согласно внутренним документам Google, изучение ИИ-сервисов компании на предмет предвзятости является одной из таких тем. Среди десятков других «деликатных тем» оказались нефтяная промышленность, Китай, Иран, Израиль, COVID-19, обеспечение безопасности жилья, страхование, данные о местоположении, религия, беспилотные автомобили, телекоммуникации и системы, рекомендующие или персонализирующие веб-контент.Как пишет Reuters, руководство Google рекомендует рецензентам искусственного интеллекта компании «проявлять большую осторожность и задавать позитивный тон». «Это не означает, что мы должны прятаться от реальных проблем, создаваемых программным обеспечением», — подчеркивают в Google. Тем не менее, некоторые штатные исследователи Google считают, что Google пытается их контролировать.«Если мы исследуем то или иное явление с учетом нашего опыта, и нам не разрешается публиковать наши выводы, это означает, что мы сталкиваемся с серьезной проблемой цензуры», — указывает старший научный сотрудник Google Маргарет Митчелл.Напряжение между Google и некоторыми из сотрудников компании обострилось после увольнения ученой Тимнит Гебру, которая вместе с Митчелл возглавляла команду по этическим вопросам работы ИИ Google. Гебру утверждает, что ее уволили за критику в адрес ИИ-инструмента по распознаванию и обработке речи. В ноябре Гебру в письме коллегам заявила, что Google стоит лучше работать над тем, чтобы ИИ компании «не закреплял гендерные предубеждения и не использовал оскорбительных высказываний». Руководство Google попросило Гебру убрать ее имя из рецензии. В ответ на это Гебру выставила компании ряд условий. В случае их невыполнения исследовательница пообещала «отработать в компании последние дни». По словам Гебру, руководство «приняло ее отставку». Гебру утверждает, что в отставку она не подавала, руководство решило все за нее.Руководитель ИИ-подразделения Google Джефф Дин заявил, что Гебру подробно описала потенциальный вред технологии, но не коснулась мер по его устранению, поэтому научная работа Гебру не соответствует требованиям компании. Он также подчеркнул, что ученая подала в отставку сама, так как в письме заявила о намерении покинуть компанию.В последние годы Google активно включает ИИ-инструменты в свои услуги. Компания использует искусственный интеллект для интерпретации сложных поисковых запросов, рекомендаций на YouTube и автозаполнения предложений в Gmail. По словам Дина, за последний год исследователи компании опубликовали более 200 статей о разработке ИИ. В одном из документов Google для научных сотрудников указано, что «все чаще кажущиеся безобидными проекты поднимают этические, репутационные, нормативные или правовые вопросы». Поэтому отныне консультации с юристами по поводу «деликатных тем» будут дополнять стандартную проверку рецензий на соответствие правилам компании и неразглашение коммерческой тайны. =========== Источник: habr.com =========== Похожие новости:
Искусственный интеллект ), #_itkompanii ( IT-компании ) |
|
Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете голосовать в опросах
Вы не можете прикреплять файлы к сообщениям
Вы не можете скачивать файлы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете голосовать в опросах
Вы не можете прикреплять файлы к сообщениям
Вы не можете скачивать файлы
Текущее время: 25-Ноя 10:54
Часовой пояс: UTC + 5