• Новости
• Блоги
• Аналитика
• Новости компаний
• В СНГ и в мире
• Анонсы

Устанавливаются принципы работы с искусственным интеллектом

Ни одно решение, влияющее на людей, не может быть принято без человеческого контроля. Искусственный интеллект должен быть инструментом для людей, заявила компания Bosch, разработав собственный этический кодекс для ИИ.

Компания Bosch выпустила руководство по использованию ИИ в своих умных продуктах. Этический кодекс Bosch для ИИ основан на принципе: человек должен контролировать решения ИИ. В течение следующих двух лет Bosch планирует обучить порядка 20 тыс. сотрудников работе с искусственным интеллектом. Этический кодекс Bosch для ИИ, регулирующий ответственное использование этой технологии, станет частью образовательной программы.

Искусственный интеллект — это двигатель глобального прогресса. Например, консультанты по вопросам управления PwC прогнозируют, что до 2030 года ИИ увеличит ВВП в Китае на 26%, в Северной Америке - на 14%, а в Европе - примерно на 10%. Эта технология может помочь справиться с вызовами, такими как борьба с изменением климата, и оптимизировать результаты в таких областях, как транспорт, медицина и сельское хозяйство. ИИ оценивает огромные объемы данных, на основе которых алгоритмы делают выводы и в дальнейшем принимают решения.

Люди должны сохранять контроль

Согласно этическому кодексу Bosch для ИИ, искусственный интеллект не должен принимать решения, влияющие на людей, без привлечения оценки человека. Более того, искусственный интеллект должен служить людям инструментом. В кодексе описаны три возможных подхода, которые объединяет следующее: в продуктах Bosch на базе ИИ человек сохраняет контроль над любыми решениями, которые приняты алгоритмами.

В первом случае (human-in-command) искусственный интеллект играет роль исключительно вспомогательного инструмента - примером тому служат системы, помогающие людям классифицировать объекты или живых существ.

При втором подходе (human-in-the-loop), умная система автономно принимает решения, которые человек может отменить в любой момент.  Например, частично автономное вождение, где человек может напрямую вмешиваться в алгоритм, скажем, системы помощи при парковке.

Третий подход используется в таких приложениях, как системы аварийного торможения. При разработке этих умных продуктов специалисты устанавливают определенные параметры, на основе которых ИИ принимает решения. Здесь невозможно напрямую вмешаться в процессы. Задним числом инженеры могут проверить, выполняет ли машина требования, установленные человеком. При необходимости параметры могут быть изменены (human-on-the-loop).

Выстраиваем доверие вместе

Bosch также надеется, что этический кодекс для ИИ внесет вклад в общественную дискуссию об искусственном интеллекте. «Поскольку ИИ изменит все аспекты нашей жизни, эта дискуссия крайне необходима», - заявил Фолькмар Деннер, председатель правления Bosch. Чтобы установить доверие к умным системам, мало одного технического ноу-хау - нужно наладить диалог между политиками, научным сообществом и широкой общественностью.

Оставить свой комментарий:

Комментарии по материалу