21 октября состоялось заседание экспертного совета Главного радиочастотного центра (подведомствен Роскомнадзору) по искусственному интеллекту (ИИ), где обсуждались вопросы этического, правового и технического регулирования технологии. На мероприятии выступил Юрий Хохлов, председатель Совета директоров Института развития информационного общества, руководитель проекта по мониторингу и стандартизации работы с большими данными Центра компетенций НТИ по большим данным МГУ. Эксперт рассказал, как нормативное техническое регулирование (стандартизация) может решать проблемы в области ИИ.
Напомним, в России действует Технический комитет 164 по стандартизации «Искусственный интеллект» (ТК 164) — зеркальное отражение международного подкомитета ISO/IEC JTC 1 SC 42 Artificial Intelligence. В ТК 164 входит подкомитет 02 «Данные» (ПК 02), возглавляемый Юрием Хохловым и поддерживаемый в рамках программы Центра компетенций НТИ по большим данным МГУ.
На заседании Юрий Хохлов назвал одну из основных проблем систем ИИ и систем для работы с большими данными: цели создания информационной системы предшествуют разработке, эксплуатации и завершению функционирования самой системы и при этом зависят от этических принципов, которыми руководствуются разработчики. Идеи и бизнес-требования, которые изначально закладываются при разработке системы, находятся вне самой системы. Если посмотреть на жизненный цикл работы с данными в подобных системах — от генерации и комплектования массивов данных до их предобработки, обработки и визуализации, то этические нормы «живут» вне этого цикла, но опосредованно сильно на него влияют.
На международном уровне озабочены решением этой проблемы: начинается работа над новым стандартом, описывающим жизненный цикл данных в системах ИИ и системах аналитики больших данных. Еще одна серия стандартов, которая разрабатывается сейчас в международном подкомитете 42 Объединенного технического комитета № 1 Международной организации стандартизации и Международной электротехнической комиссии (ISO/IEC JTC 1 SC 42 Artificial Intelligence), затронет вопросы качества наборов данных для машинного обучения и аналитики больших данных.
«Стандарт — это, по сути, зафиксированный международный консенсус по тем знаниям, которыми мы располагаем в конкретной предметной области. Квинтэссенция этих знаний и закладывается в стандарты, фиксируется в них. Незнание стандартов означает, что вы будете изобретать свой собственный велосипед, а не пользоваться накопленными знаниями всего человечества. Вот почему очень важно иметь этот набор стандартов и в России», — обратил внимание Юрий Хохлов.
Уже два года ПК 02 «Данные» готовит стандарты в области больших данных, согласованные с аналогичными международными документами, чтобы преодолеть имеющееся отставание национальной стандартизации.
Еще одно потенциальное преимуществе нормативного технического регулирования — оно позволяет защитить отечественные ноу-хау. «Если, изобретая технологию или решение, вы закладываете его в стандарт и защищаете патентами, тогда все организации мира, следующие этому стандарту, будут вынуждены покупать ваше решение либо патент на его использование», — обратил внимание Юрий Хохлов.
Александр Дегтярев, руководитель департамента развития технологий искусственного интеллекта Дирекции развития цифровых технологий Института развития информационного общества, профессор СПбГУ, эксперт ПК 02 «Данные», констатировал, что сегодня определение ИИ довольно размыто и неопределенно, особенно при проведении границы между сильным и слабым ИИ. Со своей стороны, спикер считает, что к ИИ относится всякая задача, для которой неизвестен алгоритм решения. При этом задачи ИИ отличаются способностью к обучению, обобщению, аналогиям, а также возможностью взаимодействия с внешним миром, его восприятия и осознания воспринятого. Вопреки распространенному мнению, эксперт считает, что к технологическим компонентам ИИ относятся не только нейронные сети, но и способы формализации знаний, логических рассуждений, логического вывода, а также нечеткая логика, эволюционные вычисления и многоагентные системы.
По мнению Александра Дегтярева, именно стандартизация способна решить проблемы определения и классификации ИИ.
Стандартизации под силу справиться и с другой актуальной проблемой — проблемой измеримости ИИ, уверен эксперт. В чем измерять ИИ? Когда наступает момент, что система становится интеллектуальной, а не просто информационной? Когда данные превращаются в знания? Какие данные можно считать анонимизированными? Когда много данных превращаются в большие данные? Ответы на эти вопросы позволят осознанно применять системы для работы с большими данными или системы ИИ при решении насущных социальных и экономических проблем.
На мероприятии также выступили:
• Милош Вагнер — заместитель руководителя Роскомнадзора;
• Денис Садовников — главный эксперт-юрист Главного радиочастотного центра;
• Людмила Куровская — руководитель Центра помощи гражданам в цифровой среде;
• Алексей Нейман — исполнительный директор Ассоциации больших данных (АБД);
• Ирина Левова — директор по стратегическим проектам АБД;
• Максим Федоров — ректор НТУ «Сириус», эксперт специальной группы экспертов ЮНЕСКО по подготовке проекта рекомендаций об этических аспектах ИИ;
• Евгения Мешкова — руководитель юридического направления Фонда «Сколково», эксперт подкомитета ПК 01 «ИИ в здравоохранении» ТК 164.
Источник: https://bigdata.msu.ru/news/316/