Институт развития информационного общества
   

Юрий Хохлов выступил на Международном форуме «Этика искусственного интеллекта: начало доверия»

26 октября в Москве состоялся Международный форум «Этика искусственного интеллекта (ИИ): начало доверия». В рамках дискуссии «Этика ИИ при обеспечении безопасности» выступил Юрий Хохлов, председатель совета директоров Института развития информационного общества, руководитель управления координации и мониторинга Центра экспертизы федерального проекта «Искусственный интеллект» Аналитического центра при Правительстве РФ, руководитель проекта по мониторингу и стандартизации работы с большими данными Центра компетенций НТИ по большим данным МГУ.

Форум стал первой в России специализированной площадкой, где представители органов власти, бизнеса, гражданского общества, научно-образовательного сообщества и разработчики систем ИИ обсудили шаги по эффективному внедрению этики ИИ в приоритетных отраслях. Ключевым событием форума стала презентация Национального кодекса этики ИИ.

Модераторами дискуссии «Этика ИИ при обеспечении безопасности» выступили президент ГК Infowatch Наталья Касперская и врио начальника Главного управления научно-исследовательской деятельности Министерства обороны РФ Александр Осадчук.

В рамках своего выступления Юрий Хохлов отметил, что вопросы, связанные с развитием и использованием ИКТ, должны решаться всеми заинтересованными сторонами: властью, бизнесом, научно-образовательным сообществом и гражданским обществом.

Не должны являться исключением и вопросы этического использования технологий ИИ. Представленный кодекс разрабатывался в основном силами бизнеса с привлечением представителей научно-образовательного сообщества и государства. В идеале нужна площадка, на которой все заинтересованные стороны будут излагать и отстаивать свои интересы. Конфликт неизбежен, но он должен быть цивилизованно разрешен, считает эксперт. «Такой площадкой действительно может стать Аналитический центр при Правительстве РФ», — поддержал идею, ранее озвученную Александром Осадчуком, Юрий Хохлов.

Далее он озвучил еще один тезис: важно научиться определять с помощью тех или иных метрик, что можно (само-)регулировать с помощью этических норм, а что должно становиться частью нормативного правового регулирования. Кроме этого, эксперт напомнил о существовании промежуточного, но не менее важного уровня нормативного регулирования — стандартизации: «В международные и национальные стандарты, которые представляют собой зафиксированное знание человечества, можно (и нужно) заложить принципы, в том числе отражающие наши этические представления о том, что такое хорошо и что такое плохо».

Юрий Хохлов также назвал одну из основных проблем систем ИИ и систем для работы с большими данными: цели создания информационной системы предшествуют разработке, эксплуатации и завершению функционирования самой системы и при этом зависят от этических принципов, которыми руководствуются разработчики. Идеи и бизнес-требования, которые изначально закладываются при разработке системы, находятся вне самой системы. Если посмотреть на жизненный  цикл работы с данными в подобных системах — от генерации и комплектования массивов данных до их предобработки, обработки и визуализации, то этические нормы «живут» вне этого цикла, но опосредованно сильно на него влияют.

На международном уровне стандартизации озабочены решением этой проблемы: начинается работа над новым стандартом, описывающим жизненный цикл данных в системах ИИ и системах аналитики больших данных.

В дискуссии также приняли участие:

• Александр Лосев — генеральный директор УК «Спутник — управление капиталом»;

• Елена Брызгалина — заведующая кафедрой философии образования философского факультета МГУ;

• Юрий Цветков — советник президента «Сколтеха», эксперт в области международного регулирования ИИ и сквозных технологий;

• Александр Мохов — заведующий кафедрой медицинского права МГЮА;

• Андрей Незнамов — управляющий директор Центра регулирования ИИ Сбера.

Источник: https://bigdata.msu.ru/news/317/