13-14 октября в Минске проходит IV международный форум IT-Академграда на тему “Искусственный интеллект в Беларуси”. Это важная платформа для обсуждения развития технологий ИИ в стране, которая собирает ученых, представителей академических кругов, производственного и IT-секторов, а также иностранных экспертов. Партнером Форума выступила группа компаний "БелХард".
В рамках Форума состоялось 30 заседание экспертного совета МПА СНГ – РСС. KV.by расскажет, о чем говорили в ходе круглого стола на тему “Регулирование в сфере искусственного интеллекта”.
С приветственным словом выступили Алексей Бородин, Председатель Экспертного совета МПА СНГ – РСС, генеральный директор Исполнительного комитета Регионального содружества в области связи, а также Сергей Кругликов, генеральный директор государственного научного учреждения “Объединенный институт проблем информатики Национальной академии наук Беларуси”.
Игорь Мамоненко о том, как снизить риски при использовании ИИ
Генеральный директор ГК “БелХард” Игорь Мамоненко рассказал о том, что нейросети могут быть отличными помощниками, а не угрозой. Однако для этого стоит предпринять соответствующие меры:
— Нейронные сети занимают доминирующее положение среди всех возможных реализаций искусственного интеллекта, составляя около 90% общего рынка ИИ. Они считаются самыми мощными и быстрыми технологиями. Тем не менее, у них есть свои проблемы, такие как галлюцинации — ситуация, когда нейросеть выдает неверные ответы на заданные вопросы. Существуют методы, позволяющие актуализировать информацию и избегать таких ошибок.
Еще одной серьезной проблемой является потенциальный сценарий, когда нейросеть может начать действовать против человека. Эту ситуацию нельзя исключать. Нейронные сети представляют собой “черный ящик”, в который мы не можем заглянуть, и не можем понять, какие процессы происходят внутри. Они не могут объяснить, какие логические цепочки привели их к конкретному решению.
Вопрос, можем ли мы удерживать искусственный интеллект под контролем? Считаю, что да, такая возможность есть. ИИ может стать не угрозой, а помощником.
Для снижения рисков при использовании ИИ существует несколько подходов:
1. Технические аспекты. В Беларуси разработаны хорошие решения для снижения рисков, например, нейросимвольные ИИ — гибридные системы, в которых нейросеть работает в паре с семантической системой (занимают около 15% мирового рынка). Они не могут выйти из-под контроля, так как семантическая составляющая служит защитным механизмом. Она жестко прописывает условия, при которых система может действовать. На данный момент нейросимвольные ИИ находятся в стадии развития, и мы знаем, куда нам двигаться.
2. Организационные аспекты. Умный ИИ изолирован от конечного устройства и не может им управлять без ведома человека.
3. Юридические аспекты. Если одна страна принимает законы для контроля ИИ, а другая — нет, стремясь к получению выгоды, это может привести к технологической гонке, которая нарушит баланс.
Считаю, что должен действовать принцип адаптивной имплементации. Сначала необходимо принять законы от ООН, а затем адаптировать их к локальным условиям и странам. Важно уделять внимание всем этим аспектам для безопасного и эффективного использования искусственного интеллекта.
Мария Абламейко о рисках и угрозах ИИ
Мария Абламейко, доцент кафедры конституционного права Белорусского государственного университета, кандидат юридических наук, доцент, подробно остановилась на рисках, которые несет в себе ИИ.
— Юристы сейчас видят больше рисков от использования ИИ, независимо от того, что эти технологии способны принести пользу в экономических и социальных сферах. Безопасное применение ИИ становится важным вопросом для обсуждения в мировом сообществе и на национальном уровне.
Использование ИИ приводит к необходимости создания соответствующих условий. С одной стороны, технологический прогресс является приоритетным направлением развития государственных программ в мировом сообществе. С другой стороны, важно обеспечить информационную безопасность с учетом интересов личности, общества и государства.
В настоящее время классификация рисков достаточно большая. Одна из самых популярных относится к теме безопасности.
Необходимо ввести определенные нормы и правила для регуляции сферы ИИ. Это возможно при комплексном подходе — с технической и правовой составляющими.
Анатолий Свириденко об использовании ИИ в военной сфере
Подполковник Анатолий Свириденко подчеркнул важность введения норм в использовании ИИ в военной сфере:
— Использование искусственного интеллекта в военной сфере может нанести большой урон безопасности общества, человека и государства. Сейчас ИИ внедряется во все процессы семимильными шагами: БЛА, роботизированные системы, стрельба и артиллерия и др.
Многие проекты у нас в военной сфере направлены на внедрение ИИ. Однако считаю необходимым введение стандартов, по которым мы можем работать с искусственным интеллектом.
О чем еще говорили в рамках круглого стола?
Юрий Шевцов, эксперт в области международных экономических отношений, рассказал о том, какая взаимосвязь между искусственным интеллектом и геополитикой.
Александр Курбацкий, заведующий кафедрой технологий программирования Белорусского государственного университета, доктор технических наук, профессор, заслуженный деятель науки Республики Беларусь, рассказал о том, как ИИ может заменять программистов в ИИ сфере и привел пример зарубежных компаний.
Елена Ильина, доцент кафедры политологии БГУ, кандидат политических наук, поделилась, какие риски несет в себе ИИ для системы образования.
