Оценка безопасности будет проводиться для технологических решений, основанных на искусственном интеллекте, с целью усиления доверия со стороны пользователей.
Сергей Гарбук, директор по научным проектам НИУ ВШЭ, пояснил, что план развития искусственного интеллекта в России включает активное внедрение инновационных технологий с учётом возможных рисков. Он выразил уверенность в том, что созданная система сертификации будет служить средством для снижения этих рисков.
Гарбук подчеркнул важность соответствия продукции на основе искусственного интеллекта техническим и этическим стандартам. В рамках сертификации планируется использование научного опыта и ресурсов, накопленных в Высшей школе экономики, одном из ведущих исследовательских центров в области искусственного интеллекта.
Система разработана с учётом исключения возможного воздействия разработчиков и других заинтересованных лиц на результаты испытаний. Она также в максимальной степени учитывает отечественный и мировой опыт в области тестирования прикладных систем искусственного интеллекта.
Таким образом, система добровольной сертификации (СДС) будет действовать как объективный посредник при взаимодействии между производителями или поставщиками услуг и конечными пользователями.
Независимая оценка будет полезна потребителям на динамично развивающемся рынке продукции и услуг, основанных на технологиях искусственного интеллекта. Она обеспечит ориентацию и гарантии безопасности. Сертификация также способствует повышению общего уровня качества продукции, а производители, обладающие сертификатом, смогут стимулировать интерес к своим предложениям.
Управление деятельностью СДС будет осуществляться наблюдательным советом. В его состав включены представители профильных органов исполнительной власти, государственных регуляторов, представителей общественных организаций, разработчиков продуктов и услуг на основе искусственного интеллекта, а также представители научного сообщества.
Созданная система представляет собой межотраслевой характер. НИУ ВШЭ будет гарантировать соблюдение единых подходов к оценке соответствия продукции в области искусственного интеллекта, учитывая специфику отдельных отраслей. Университет также примет на себя роль обеспечения взаимодействия между участниками системы.
Основой для проведения испытаний «Интеллометрика» является комплекс национальных стандартов, разработанных техническим комитетом по стандартизации № 164 «Искусственный интеллект». Этот комплекс включает подробные требования к методам тестирования систем искусственного интеллекта, что обеспечивает надлежащую представительность оценки их качества и безопасности.
Заявку на участие в добровольной сертификации можно подать на официальном веб-сайте системы «Интеллометрика».
Презентация СДС в очном формате запланирована на 13 февраля 2024 года в рамках форума «Технологии и безопасность», секция «Искусственный интеллект: вызовы и возможности».
