Президент группы компаний InfoWatch Наталья Касперская пошла
против общего тренда, по которому искусственный интеллект не представляет никакой
опасности для людей, и в интервью нашему специальному корреспонденту на ПМЭФ
Илье Колосову предупреждает о существующих угрозах этой технологии:
- К искусственному интеллекту относится любая технология, которая
имитирует когнитивную функцию человека. То есть мышление, осознание, речь,
выбор объекта и так далее. В этом смысле это очень широкий спектр. Но в
последнее время под ИИ понимается система, основанная на нейронных сетях. Нейронная
сеть — это набор матриц, которые задают определённые критерии на основании тех
объектов, что они проанализировали до этого. Потом на основании этого критерия
они выносят определенный вердикт. Для внешнего наблюдателя и для самих
разработчиков непонятно, на основании какого критерия выносится вердикт, то
есть система ИИ представляет собой черный ящик. Система выносит решение
непонятно как. Вообще говоря, в эту матрицу, в эту нейросеть можно заложить разные
«дырочки» (какие раньше были в перфокартах), и какая из них сработает, наблюдатель
не знает. Пример: делаем систему распознавания машин специального применения -
полиция, скорая помощь, которым автоматически должны открывать шлагбаумы во
дворах. И разработчик вкладывает в эту систему номер своей машины. Причем вы
никогда этого не найдете. Это первый риск – риск использования ИИ с
незаявленными целями. А поскольку у нас обе платформы ИИ иностранного
производства, то мы не знаем, что они туда напихали. У нас нет гарантии, что там
нет таких внутренних закладок. Есть также гуманитарные риски. Например, на
рынке труда. Беспилотный транспорт лишит работы миллионы людей. У Минцифры есть
план замены госслужащих «идеальным» чиновником-роботом. Можно предположить, что
такой робот будет в основном отказывать, потому что, когда ты разрешаешь, ты
тратишь государственные деньги, к тебе всегда могут придраться. То есть это неидеальная
конструкция.
ИИ в некотором смысле угрожает человеческой цивилизации.
Роботы вытесняют человека, как ненужную частицу – глупую, неполноценную. И он
угрожает не только русской цивилизации, а всей нашей цивилизации, об этом и
Илон Маск говорит.
