[Социальные сети и сообщества, IT-компании] ИИ Facebook научился находить 95% экстремистских высказываний, но соцсеть всё ещё требует от модераторов ходить в офисы
Автор
Сообщение
news_bot ®
Стаж: 6 лет 9 месяцев
Сообщений: 27286
Алгоритмы Facebook в третьем квартале 2020 года смогли обнаружить 95% экстремистских высказываний на платформе до того, как они попали к модераторам, говорится в официальном сообщении соцсети. Несмотря на это, компания всё ещё требует от модераторов приходить на работу в офис — сотрудники направили руководству Facebook открытое письмо с требованием разрешить удалённую работу. Всего за третий квартал на платформе было выявлено 22,1 миллиона материалов с разжиганием ненависти, 19,2 миллиона постов с элементами жестокого графического содержания, 12,4 миллиона изображений детской порнографии и сексуальной эксплуатации, а также 3,5 миллиона материалов с издевательствами и домогательствами. Всего на подобный контент приходится 0,11% всего контента на Facebook — учитывая, что в соцсети зарегистрировано 2,7 миллиарда активных пользователей, это указывает на достаточно широкое распространение экстремистских и запрещённых материалов. Соцсеть впервые раскрыла цифру о распространённости запрещённого контента, поэтому неизвестно, была ли его доля на платформе больше или меньше до июля 2020 года. Facebook уточняет, что добиться удаления такого большого количества контента удалось с помощью искусственного интеллекта. Благодаря нему запрещённые посты оказываются удалены ещё до того, как пользователи сообщат о них модераторам. Несмотря на улучшение показателей, соцсеть по-прежнему требует от модераторов ходить на работу в офисы. Об этом говорится в открытом письме сотрудников Facebook, направленном на имя Марка Цукерберга и Шерил Сандберг. В письме говорится, что работа модераторов была одной из самых тяжёлых в компании и до пандемии COVID-19, поскольку им приходится иметь дело с большим количеством жестокого контента, включая насилие и жестокое обращение с детьми. Сотрудники возмущены, что компания заставляет их рисковать своей жизнью и здоровьем, требуя посещать офисы, при этом никак не доплачивая за риск. Они раскритиковали работу искусственного интеллекта, призванного модерировать контент на площадке — по мнению сотрудников, он далёк от того, чтобы вводить автоматизированную систему модерации. «Ваши алгоритмы не могут обнаружить сарказм. Они не могут отделить журналистику от дезинформации. Они не могут достаточно быстро реагировать на насилие или жестокое обращение с детьми. Мы можем», — говорится в письме. Модераторы требуют, чтобы руководство компании обеспечило их безопасность и максимизировало количество удалённой работы. По их мнению, их обязанности можно исполнять и дистанционно, не подвергаясь риску заразиться COVID. При этом, если удалённая модерация контента не соответствует соображениям безопасности, как настаивает Facebook, то организацию работы следует изменить, считают модераторы. Кроме того, сотрудники требуют ввести доплату за риск и дать возможность воспользоваться реальной медицинской и психиатрической помощью — сейчас модераторам предлагают только еженедельные 45-минутные сеансы с «тренерами по оздоровлению», не имеющими психологического или психиатрического образования и потому не имеющими права ставить диагнозы и лечить.
===========
Источник:
habr.com
===========
Похожие новости:
- [Разработка мобильных приложений, Развитие стартапа, Законодательство в IT, IT-компании] В тюрьму за приложение
- [Искусственный интеллект, Социальные сети и сообщества] Китайские разработчики создали модель ИИ для обнаружения сарказма
- [Компьютерное железо, Ноутбуки, IT-компании] Apple пояснила, как избежать проблем при установке macOS Big Sur на старые MacBook Pro
- [Смартфоны, IT-компании] Apple расследует проблему мерцающих и позеленевших дисплеев iPhone 12
- [Интернет вещей, IT-компании] Минцифры запустило платформу мониторинга памятников и объектов культурного наследия
- [Исследования и прогнозы в IT, Развитие стартапа, IT-компании] IT-инновации. Как внедрить и извлечь пользу
- [Монетизация веб-сервисов, Законодательство в IT, IT-компании] YouTube будет показывать рекламу на каналах малопопулярных авторов без выплат
- [Open source, IT-компании] VMware, Red Hat, Linux Foundation, IBM и Cisco предложили инициативу инклюзивного нейминга
- [IT-компании] «Яндекс» впервые опубликовал свои внутренние принципы
- [Разработка под MacOS, Машинное обучение, Софт, Искусственный интеллект, TensorFlow] Apple представила форк TensorFlow для чипа M1
Теги для поиска: #_sotsialnye_seti_i_soobschestva (Социальные сети и сообщества), #_itkompanii (IT-компании), #_facebook, #_moderatsija (модерация), #_iskusstvennyj_intellekt (искусственный интеллект), #_pandemija (пандемия), #_sotsialnye_seti_i_soobschestva (
Социальные сети и сообщества
), #_itkompanii (
IT-компании
)
Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете голосовать в опросах
Вы не можете прикреплять файлы к сообщениям
Вы не можете скачивать файлы
Текущее время: 22-Ноя 23:30
Часовой пояс: UTC + 5
| Автор | Сообщение |
|---|---|
|
news_bot ®
Стаж: 6 лет 9 месяцев |
|
 Алгоритмы Facebook в третьем квартале 2020 года смогли обнаружить 95% экстремистских высказываний на платформе до того, как они попали к модераторам, говорится в официальном сообщении соцсети. Несмотря на это, компания всё ещё требует от модераторов приходить на работу в офис — сотрудники направили руководству Facebook открытое письмо с требованием разрешить удалённую работу. Всего за третий квартал на платформе было выявлено 22,1 миллиона материалов с разжиганием ненависти, 19,2 миллиона постов с элементами жестокого графического содержания, 12,4 миллиона изображений детской порнографии и сексуальной эксплуатации, а также 3,5 миллиона материалов с издевательствами и домогательствами. Всего на подобный контент приходится 0,11% всего контента на Facebook — учитывая, что в соцсети зарегистрировано 2,7 миллиарда активных пользователей, это указывает на достаточно широкое распространение экстремистских и запрещённых материалов. Соцсеть впервые раскрыла цифру о распространённости запрещённого контента, поэтому неизвестно, была ли его доля на платформе больше или меньше до июля 2020 года. Facebook уточняет, что добиться удаления такого большого количества контента удалось с помощью искусственного интеллекта. Благодаря нему запрещённые посты оказываются удалены ещё до того, как пользователи сообщат о них модераторам. Несмотря на улучшение показателей, соцсеть по-прежнему требует от модераторов ходить на работу в офисы. Об этом говорится в открытом письме сотрудников Facebook, направленном на имя Марка Цукерберга и Шерил Сандберг. В письме говорится, что работа модераторов была одной из самых тяжёлых в компании и до пандемии COVID-19, поскольку им приходится иметь дело с большим количеством жестокого контента, включая насилие и жестокое обращение с детьми. Сотрудники возмущены, что компания заставляет их рисковать своей жизнью и здоровьем, требуя посещать офисы, при этом никак не доплачивая за риск. Они раскритиковали работу искусственного интеллекта, призванного модерировать контент на площадке — по мнению сотрудников, он далёк от того, чтобы вводить автоматизированную систему модерации. «Ваши алгоритмы не могут обнаружить сарказм. Они не могут отделить журналистику от дезинформации. Они не могут достаточно быстро реагировать на насилие или жестокое обращение с детьми. Мы можем», — говорится в письме. Модераторы требуют, чтобы руководство компании обеспечило их безопасность и максимизировало количество удалённой работы. По их мнению, их обязанности можно исполнять и дистанционно, не подвергаясь риску заразиться COVID. При этом, если удалённая модерация контента не соответствует соображениям безопасности, как настаивает Facebook, то организацию работы следует изменить, считают модераторы. Кроме того, сотрудники требуют ввести доплату за риск и дать возможность воспользоваться реальной медицинской и психиатрической помощью — сейчас модераторам предлагают только еженедельные 45-минутные сеансы с «тренерами по оздоровлению», не имеющими психологического или психиатрического образования и потому не имеющими права ставить диагнозы и лечить. =========== Источник: habr.com =========== Похожие новости:
Социальные сети и сообщества ), #_itkompanii ( IT-компании ) |
|
Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете голосовать в опросах
Вы не можете прикреплять файлы к сообщениям
Вы не можете скачивать файлы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете голосовать в опросах
Вы не можете прикреплять файлы к сообщениям
Вы не можете скачивать файлы
Текущее время: 22-Ноя 23:30
Часовой пояс: UTC + 5