Нельзя остановить технический прогресс, но важно понимать его последствия, в том числе при использовании достижений в военной сфере. Об этом заявил президент РФ Владимир Путин в ходе пленарной сессии дискуссионного клуба «Валдай».
«История человечества показывает, что остановить технический прогресс невозможно. Но мы должны понимать последствия прогресса. И прежде всего в том, что касается использования его достижений, в том числе в военной сфере, в военном деле. Уже сейчас фиксируются случаи, когда искусственный интеллект сам принимает решения, исходя из собственного понимания целесообразности. Это касается и гражданского, и военного применения«, — сказал глава государства.
«Эксперты все чаще с тревогой говорят о том, что распространение искусственного интеллекта может стать очередной попыткой привести всех к общему знаменателю, к обезличиванию, теперь через использование кем-то настроенных алгоритмов«, — сказал президент.
«На заседании Международного дискуссионного клуба «Валдай» с участием 120 экспертов из 40 стран мира Владимир Путин затронул тему искусственного интеллекта (ИИ), обозначив государственные задачи в этой сфере и возникающие риски. Прозвучала важная мысль о необходимости «бережной цифровизации» с соблюдением этических рамок, особенно в сферах, значимых для нравственного развития человека. Президент предупредил об угрозе «цифрового тоталитаризма», поскольку ИИ может превратиться в инструмент «обезличивания» людей на основе «кем-то настроенных алгоритмов». Приоритетным вопросом для всех государств в нынешнее время является защита собственного цифрового суверенитета.
Не тормозя прогресс, важно сделать все необходимое для предотвращения «восстания машин», поскольку машины не имеют собственных чувств и морали, чтобы человек оставался вершиной мироздания. Использование ИИ сопряжено с рисками, затрагивающими разные сферы: от личной безопасности до экономики и этики. Важно видеть эти риски как в гражданской сфере, так и в иных сферах жизнедеятельности человека, чтобы осознанно применять технологии и минимизировать возможный вред.
Например, есть риск неумышленно передать в систему служебную информацию – персональные данные, коммерческую тайну. Кроме того, нейросети могут выдавать недостоверную информацию, а это особенно опасно в сферах с высокой ценой ошибки: медицине, юриспруденции, финансах, в военной. Помимо этого, технологии генерации контента позволяют создавать почти реалистичные подделки видео, аудио и текста. Это создаёт риски для граждан, возможности манипуляций общественным мнением.
Вместе с тем, мы понимаем, что все эти риски — не причина отказываться от ИИ, они побуждают нас подходить к его внедрению ответственно, с пониманием и его возможностей, и ограничений. Сегодня использование интернета стало привычным делом. В РСО-Алания, например, технологии активно внедряются в медицину, в государственное управление, в социальную сферу. Разработана и реализуется Концепция развития ИИ в Республике Северная Осетия-Алания.
