[Совершенный код, Машинное обучение, Искусственный интеллект] В МТИ создали автоматизированную модель машинного обучения для поиска проблем в коде
Автор
Сообщение
news_bot ®
Стаж: 6 лет 3 месяца
Сообщений: 27286
В Массачусетском технологическом институте совместно с IBM разработали автоматизированный метод поиска слабых мест в моделях обработки кода с повышенной устойчивостью к атакам. 
Модель в процессе написания кода предлагает функции из библиотеки Python NumPyИнструменты повышения производительности, такие как Eclipse и Visual Studio, уже предлагают готовые фрагменты кода, которые разработчики могут использовать в работе. Их автоматизированные функции основаны на сложных языковых моделях, которые научились читать и писать компьютерный код после изучения тысяч примеров. Но, как и другие модели глубокого обучения, эти модели, предназначенные для обработки кода, имеют встроенные уязвимости, которые позволяют хакерам манипулировать входными данными. Ошибки могут иметь серьезные последствия для моделей обработки кода всех типов. Например, они позволяют обманывать модели обнаружения вредоносных программ. Исследователи предложили структуру для автоматического изменения программ, чтобы выявить слабые места в моделях, обрабатывающих их. Алгоритм определяет места в программе, где добавление или замена кода заставляет модель делать самые большие ошибки. Он также находит виды правок, которые представляют наибольшую опасность. Исследователи говорят, что структура показывает, насколько хрупкими являются некоторые модели. Их модель способна учиться на своих ошибках и в процессе потенциально может получить более глубокое понимание программирования. По мнению разработчиков, в будущем модель можно будет обучить работать с кодом подобно человеку-программисту .
===========
Источник:
habr.com
===========
Похожие новости:
- [Информационная безопасность, Настольные компьютеры, Ноутбуки] ФБР получил доступ к любому компьютеру в США, чтобы устранить взломы Microsoft Exchange (перевод)
- [Python, Алгоритмы, Big Data, Машинное обучение, Искусственный интеллект] Data Science Digest — We Are Back
- [Искусственный интеллект] Как мы выбирали библиотеку машинного обучения для работы с естественным языком
- [Настройка Linux, Информационная безопасность] Hardening на практике
- [Обработка изображений, Машинное обучение, Софт, Искусственный интеллект] Распознавание документов для целей ДБО
- [Программирование, Совершенный код, Управление проектами] Сбер запускает публичный code review
- [Информационная безопасность] Модель угроз: как и зачем мы поделили хакеров на категории
- [Алгоритмы, Искусственный интеллект] Исследование: люди больше доверяют алгоритму, чем друг другу
- [Машинное обучение, Искусственный интеллект, Natural Language Processing] Искусственный интеллект в юриспруденции. Вебинар № 1: Обзор последних достижений в области AI
- [Машинное обучение, Гаджеты] В приложении Яндекса на Android и iOS появилась умная камера — да-да, новая
Теги для поиска: #_sovershennyj_kod (Совершенный код), #_mashinnoe_obuchenie (Машинное обучение), #_iskusstvennyj_intellekt (Искусственный интеллект), #_mti (мти), #_ibm, #_napisanie_koda (написание кода), #_oshibki_v_kode (ошибки в коде), #_model_ii (модель ии), #_ujazvimosti (уязвимости), #_glubokoe_obuchenie (глубокое обучение), #_sovershennyj_kod (
Совершенный код
), #_mashinnoe_obuchenie (
Машинное обучение
), #_iskusstvennyj_intellekt (
Искусственный интеллект
)
Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете голосовать в опросах
Вы не можете прикреплять файлы к сообщениям
Вы не можете скачивать файлы
Текущее время: 20-Май 18:47
Часовой пояс: UTC + 5
| Автор | Сообщение |
|---|---|
|
news_bot ®
Стаж: 6 лет 3 месяца |
|
|
В Массачусетском технологическом институте совместно с IBM разработали автоматизированный метод поиска слабых мест в моделях обработки кода с повышенной устойчивостью к атакам.  Модель в процессе написания кода предлагает функции из библиотеки Python NumPyИнструменты повышения производительности, такие как Eclipse и Visual Studio, уже предлагают готовые фрагменты кода, которые разработчики могут использовать в работе. Их автоматизированные функции основаны на сложных языковых моделях, которые научились читать и писать компьютерный код после изучения тысяч примеров. Но, как и другие модели глубокого обучения, эти модели, предназначенные для обработки кода, имеют встроенные уязвимости, которые позволяют хакерам манипулировать входными данными. Ошибки могут иметь серьезные последствия для моделей обработки кода всех типов. Например, они позволяют обманывать модели обнаружения вредоносных программ. Исследователи предложили структуру для автоматического изменения программ, чтобы выявить слабые места в моделях, обрабатывающих их. Алгоритм определяет места в программе, где добавление или замена кода заставляет модель делать самые большие ошибки. Он также находит виды правок, которые представляют наибольшую опасность. Исследователи говорят, что структура показывает, насколько хрупкими являются некоторые модели. Их модель способна учиться на своих ошибках и в процессе потенциально может получить более глубокое понимание программирования. По мнению разработчиков, в будущем модель можно будет обучить работать с кодом подобно человеку-программисту . =========== Источник: habr.com =========== Похожие новости:
Совершенный код ), #_mashinnoe_obuchenie ( Машинное обучение ), #_iskusstvennyj_intellekt ( Искусственный интеллект ) |
|
Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете голосовать в опросах
Вы не можете прикреплять файлы к сообщениям
Вы не можете скачивать файлы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете голосовать в опросах
Вы не можете прикреплять файлы к сообщениям
Вы не можете скачивать файлы
Текущее время: 20-Май 18:47
Часовой пояс: UTC + 5