На площадке ПМЭФ-2022 состоялся круглый стол, посвященный проблемам искусственного интеллекта, организаторами которого стали издательский дом «АиФ» и РАН. Авторитетные эксперты обсудили вопросы перспектив развития искусственного интеллекта, в каких областях науки искусственный интеллект существенно меняет действительность и может ли он на данном этапе заменить человека.
Во встрече приняли участие:
- Александр Сергеев, президент Российской академии наук, лауреат Государственной премии РФ и премии Правительства РФ, академик РАН, профессор, доктор физико-математических наук;
- Арутюн Аветисян, директор Института системного программирования РАН им. В. П. Иванникова, академик РАН, профессор, доктор физико-математических наук;
- Вадим Борисов, президент Российской ассоциации искусственного интеллекта, профессор кафедры управления и интеллектуальных технологий НИУ «МЭИ», доктор технических наук;
- Сергей Переслегин, писатель-прогностик, литературный критик и публицист, исследователь и теоретик фантастики и альтернативной истории;
- Михаил Пирадов, директор ФГБНУ «Научный центр неврологии», академик РАН, профессор, доктор медицинских наук;
- Елена Мартынова, заместитель руководителя Федеральной службы государственной регистрации, кадастра и картографии (Росреестр);
- Алексей Южаков, член правления Национальной ассоциации участников рынка робототехники, председатель правления робототехнической компании Promobot.
Модераторами беседы выступили генеральный директор издательского дома «Аргументы и факты», доцент факультета журналистики МГУ им. М. В. Ломоносова, кандидат экономических наук Руслан Новиков и профессор Российской академии народного хозяйства и государственной службы при Президенте РФ Максим Сафонов.
Открыл дискуссию Александр Сергеев. Ученый начал с того, что встреча на ПМЭФ в режиме реального времени почти со стопроцентной правильностью переводится на все языки мира – это, по его мнению, и есть искусственный интеллект. «Это есть, это реально работает. Давайте мы это зафиксируем и скажем, что искусственный интеллект – одно из важнейших достижений человечества. Мы подсмотрели что-то у человеческого мозга, но искусственные нейронные сети оказались наилучшим алгоритмом и обработки изображения, и поиска смысла. Таким образом, мы все вместе родили искусственный интеллект», – заметил он. По его замечанию, наиболее интересным направлением сейчас является вопрос доверия искусственному интеллекту. Эксперт убежден, что доверять выводам, полученным с помощью искусственного интеллекта, можно только в том случае, если решение машины понятно и оправданно с точки зрения человеческой логики.
«Если мы не понимаем, почему он советует нам сравнить томограмму с биохимическим анализом, и прийти к выводу, что это онкология, если мы не понимаем, почему он пришел к такому решению, на полочку знаний такое решение класть не надо и доверять ему не надо», – уверен академик. «Сможем ли мы выстроить отношения с искусственным интеллектом, чтобы допускать его именно до этого уровня, не поддадимся ли мы соблазну, лечить, как он велит, не понимая, почему он так предсказывает? Если мы когда-то поддадимся этому соблазну, это будет очень плохо, потому что мы потом не поймем, почему мы все стали умирать. И вопрос, поработит ли он нас, – вопрос этой границы. Это граница нашего доверия к тому, что делает искусственный интеллект», – закончил свое выступление Сергеев.
В свою очередь Арутюн Аветисян, считает, что сам термин «искусственный интеллект» не точный. «Он путает людей. Это все-таки информационные супертехнологии, позволяющие решать задачи, которые раньше были недоступны», – пояснил он. «Когда у вас есть языковая модель с миллиардами параметров, она побеждает все существующие лингвистические подходы, и с этим ничего не поделаешь. Но если у вас язык небольшой, и в нем нет соответствующих корпусов, то вы ничего не сможете построить, таким образом, вам придется пользоваться другими методами», – отметил Аветисян причины успеха искусственного интеллекта. Кроме того, профессор высказал мнение, что искусственного интеллекта в «сильном» смысле не существует. «Надежда, что он появится в ближайшие десятилетия, у меня призрачны, это не означает, что не надо финансировать фундаментальную науку, это важное направление, которым нам надо заниматься», – сказал он.
В рамках своего выступления Михаил Пирадов высказал мнение, что доверять искусственному интеллекту не стоит. «Мы все знаем, что впервые знаменитый американский Айзек Азимов сформулировал три закона робототехники, которые можно свети к единственному: робот не может нанести вред человеку. В настоящее время, говорить, что мощнее: искусственный интеллект или естественный, – пока рано. Во-первых, потому, что мы не знаем возможную мощь человеческого мозга, а, во-вторых, мы не знаем всю возможную мощь самого машинного или искусственного интеллекта. Современный научно-технический прогресс настолько быстро идет, что через какое-то время, мы сможем начать сопоставлять одно с другим», – отметил доктор наук.
Вадим Борисов обратил внимание на то обстоятельство, что формирование и создание систем искусственного интеллекта возможно только на основе проведения фундаментальных исследований. «Никакие стартапы этому не помогут», – считает он. «Именно на основе сочетания информационно-технологической инфраструктуры, телекоммуникационных возможностей, изменения социального поведения человека, элементов или компонентов искусственного интеллекта, только в этом конгломерате возможно решение такой задачи», – поделился своим мнением ученый. Он выразил надежду, что флер искусственного интеллекта, который, начался с XIX века, когда эта тематика, по его выражению, стала «хайповой», спадет, и общество придет к стабильному пониманию и включению в смысловую среду определенных направлений его исследований.
Писатель-прогнозист Сергей Переслегин выразил мнение о том, что было бы странно, если бы искусственный интеллект, сделанный для работы с быстрым перебором вариантов, с соответствующими позициями разбирался бы хуже, чем любой из нас. «Он это делает лучше и обязан делать лучше, и всегда будет делать лучше. Причем, любая попытка создать контроль просто замедлит его работу», – сказал он. Один из главных вопросов, по убеждению теоретика фантастики, это вопрос: когда искусственный интеллект сможет создавать иное - через три года, через 300 лет или через три тысячи? По его словам, единственным сверхвызовом, обращенным ко всему человечеству, был сверхвызов смерти. Все наши культуры, наша наука построены на том, что мы учились жить в условиях этого сверхвызова. «Я вас поздравляю. Сильный искусственный интеллект, будучи мыслимым, дает нам второй искусственный вызов. Машина делает все лучше нас: лучше думает, лучше решает, причем, мы не можем интерпретировать способ, которым она это делает. Тем самым, искусственный интеллект делает нас ненужными, лишает нас видовой идентификации. И оказывается, что монополию на разум мы теряем. Это не является катастрофой и ситуацией, когда компьютер будет нас порабощать или, напротив, нам помогать. Это является сверхвызовом и означает, что каждому из нас в какой-то момент времени придется ответить себе на вопрос: что он может делать в мире сильного искусственного интеллекта», – заключил Переслегин.
Среди исследователей ИИ пока не существует какой-либо доминирующей точки зрения на то, что считать интеллектом, на критерии интеллектуальности, на систематизацию решаемых целей и задач, нет и строгого определения науки.
Тем не менее, участники дискуссии согласились с тем, что вопросы развития искусственного интеллекта и связанные с его использованиям этические проблемы требуют тщательной проработки и глубокого анализа, и призвали научное сообщество отнестись к ним со всей серьезностью.
Запись трансляции:
