Rambler's Top100
Все новости Новости компаний

Яндекс привлечёт белых хакеров для проверки безопасности генеративных нейросетей

10 апреля 2025

Яндекс запустил новое направление программы «Охоты за ошибками», связанное с генеративными нейросетями. Компания готова выплатить до миллиона рублей исследователям, которым удастся отыскать технические уязвимости в семействах моделей YandexGPT, YandexART и сопутствующей инфраструктуре. Участникам «Охоты» предстоит искать технические ошибки, которые могут повлиять на результаты работы и процесс обучения нейросетевых моделей.

Скажем, ошибки могут привести модель к сбою или изменить её поведение так, чтобы она повлияла на работу других сервисов Яндекса.

Размер выплаты зависит от серьёзности ошибки и простоты её применения. К критичным относятся уязвимости, которые позволят раскрыть данные о внутренней конфигурации модели, её служебный промт с техническими данными или другую чувствительную информацию. Максимальное вознаграждение за такие ошибки — 1 млн рублей. В «Охоте» могут участвовать только отчёты о технических уязвимостях. К ним, например, не относятся сообщения о неточных ответах Алисы или некорректных изображениях в Шедевруме. 

Генеративные нейросети всё шире используются в сервисах Яндекса и партнёрами компании. YandexGPT и YandexART уже нашли применение более чем в 20 сервисах и продуктах для пользователей и бизнеса — от Алисы и Поиска с Нейро до Директа и решений Yandex Cloud, в том числе доступных сторонним разработчикам через API. Появление генеративных нейросетей в «Охоте» позволит проводить их независимую проверку и ещё раз убедиться, что сервисы Яндекса и новые технологии отвечают самым строгим стандартам безопасности.

Источник: Яндекс

Заметили неточность или опечатку в тексте? Выделите её мышкой и нажмите: Ctrl + Enter. Спасибо!

Читайте также:

В Можайске появится дата-центр «Яндекса»

«Инфосистемы Джет» и Yandex Cloud открыли лабораторию GPT-решений

Ростех начал выпуск мини-компьютеров для нейросетей

РУСАЛ начал применять ИИ для анализа качества алюминиевых слитков

Безопасность данных при использовании ИИ-моделей может быть под угрозой

Оставить свой комментарий:

Для комментирования необходимо авторизоваться!

Комментарии по материалу

Данный материал еще не комментировался.

Продолжение использования сайта пользователем интерпретируется как согласие на обработку фрагментов персональных данных (таких, как cookies) для целей корректной работы сайта.

Согласен