З людським обличчям. Яким повинен бути штучний інтелект

39

«комплекс технологічних рішень, що дозволяють імітувати когнітивні функції людини і отримувати при виконанні конкретних завдань результати, порівнянні як мінімум з результатами інтелектуальної діяльності людини«, — так трактується поняття» штучний інтелект » в національній стратегії розвитку ші в росії. «під таке визначення чітко підпадає калькулятор», — зауважив науковий керівник інженерного напрямку південного федерального університету академік ігор каляєв, виступаючи на засіданні президії ран, яке було присвячене проблемам ші в контексті інформаційної безпеки. І цей жарт показав, наскільки ші непроста і ще не регламентована як слід область.

«штучний інтелект – це цілий новий шар питань, серйозна сфера, що включає в себе нові елементи, які можуть виявитися вразливими», – зазначив президент ран олександр сергєєв, відкриваючи засідання. Доповіді та супутня їм дискусія показали, що в ші багато різних граней: від математичної складової до загальнофілософських аспектів.

Про безпеку технологій штучного інтелекту розповів директор фіц» інформатика та управління » ран академік ігор соколов. Він почав виступ з екскурсу в історію, зазначивши, що академія наук з 1986 року «пильно і детально» вивчає цю проблему, і розповів про вчених, які внесли найбільший внесок у створення штучного інтелекту.

Ігор анатолійович позначив уразливості ші, перш за все з точки зору математики. Він представив основні теоретичні методи, що застосовуються в роботі з ші: представлення знань, придбання знань комп’ютерними системами, моделювання та автоматизація раціональних міркувань і породження пізнавальних гіпотез, автоматизація планування і цілеспрямованої поведінки, автоматичний аналіз мови. При цьому підкреслив, що їх теоретичне поле не можна обмежувати штучними нейронними мережами і машинним навчанням. Це методи, вирішальні завдання, для яких відсутній або не підходить відомий алгоритм рішень. Наприклад, людська мова не піддається опису за допомогою диференціального рівняння, і необхідність вилучення цих даних народжує нову математику.

За словами соколова, одна з основних проблем – фільтрація знань. Сьогодні топові нейронні мережі містять понад 500 мільярдів параметрів. І цей обсяг баз даних буде тільки зростати. «що буде завтра, ми не знаємо», — підкреслив вчений. Звідси і загрози безпеці. Уразливість ші дозволяє навмисне спотворювати дані, моделі та об’єкти на етапах застосування. За словами академіка, досить змінити всього піксель на фотографії, щоб ші ідентифікував об’єкт на ній, наприклад, тигра як ведмедя.

Ігор анатолійович розповів про те, як вчені намагаються убезпечити технології інтелектуальних систем. Він підкреслив, що ця сфера вимагає фундаментальних досліджень і тому потрібна інша апаратна база. За словами академіка, звичайні процесори неефективні для вирішення матричних рівнянь, сьогодні вже активно йде розвиток нових графічних прискорювачів, в сотні разів збільшують продуктивність обчислювальних машин.

Олександр сергєєв, згадавши про недавній візит в росгідромет, зазначив, що молоді дослідники не роблять акцент на математичних обчисленнях, а використовують накопичені бази даних і при цьому «видають більш швидкі і точні результати». «навіщо тоді наука?» — поставив запитання голова ран.

“впевнений, що через деякий час ми забудемо поняття «ші». Народиться що-небудь нове. Очевидно лише, що відбувається революційний перелом», — відповів соколов.

» поїзд мчить вперед. У держпрограмі з розвитку ші базовою організацією виступає сбербанк. Дуже активно працює сколтех. Тривожно, що ран знаходиться на узбіччі цього процесу. Академічні установи повинні теж сказати своє слово», — зазначив глава ран.

Кібербезпека в контексті штучного інтелекту стала темою виступу директора інституту системного програмування ран академіка арутюна аветісяна. Він нагадав про те, що в 2018 році було прийнято рішення президії ран про новий науковий напрям «аналіз, трансформація програм і кібербезпека», а в 2021-му затверджено нову спеціальність вак «кібербезпека». Проведені в цій сфері дослідження пов’язані з аналізом і систематизацією вразливостей, моделюванням політики інформаційної безпеки, загроз і атак. Виробляються методи, алгоритми і засоби пострілізного аналізу захищеності пз, проводиться масштабований моніторинг інцидентів безпеки в розподілених програмно-апаратних системах і т.п.

“ми живемо в світі, коли зламують наші системи, крадуть наші дані, але ми все одно це використовуємо. Потрібно навчитися жити в такому світі, бути сильними, а не намагатися відгородитися і говорити, що ми тепер в бункері, тому в безпеці. Академія наук, мені здається, — та організація, яка повинна очолити і вести цей процес», – сказав арутюн ішханович.

На думку аветисяна, невикористання ші загрожує відставанням і неможливістю трансформації економіки і держуправління. Академік зазначив, що сьогодні ші «слабкий»: може вирішувати тільки ті завдання, для яких він запрограмований, а інформацію витягує з обмеженого набору даних. Повинен з’явитися «сильний » ші, здатний вирішувати завдання на рівні людини і використовувати стратегії, функціонуючи в умовах невизначеності. Він буде спілкуватися з людиною на природній мові і планувати дії.

Також арутюн ішханович розповів про ризики використання ші в промислових системах, про особливості атак на моделі машинного навчання, про крадіжки даних і моделей з хмарних середовищ.

Для вирішення цієї та інших проблем в росії організовується центр довіреного ші на базі ісп ран, один з шести центрів, створюваних в рамках федерального проекту «штучний інтелект», який курирує мінекономрозвитку. Перемога в конкурсному відборі стала для ісп ран однією з головних подій 2021 року.

«ми з цих шести центрів – єдина академічна організація, — розповів академік. — але очевидно, що одна організація всі питання вирішити не може. З самого початку в заявці було закладено, що ми будемо створювати співтовариство і, по суті, беремо на себе роль наукового лідерства, коли 30-40% завдань виконуємо ми, а решта – партнери»

Серед партнерів – «лабораторія касперського» і «роскосмос» в особі цніімаша, а також мфті, сколтех, мноц мгу, мехмат мгу, університет іннополіс, нижегородський держуніверситет, інститут психології ран, міжвідомчий суперкомп’ютерний центр ран, зат «єс-лізинг», «інтерпроком», «технопром».

» буде розширюватися і академічне співтовариство. Ран повинна очолити керівництво таким співтовариством. У рф достатньо для цього наукових шкіл, і є серйозний заділ. Потрібно йти на міжнародні контакти, не ставлячи перед собою завдання «обігнати». Треба поступально розвиватися і тримати паритет», — сказав вчений.

Сергєєв запропонував створити окрему наукову раду ран з безпеки штучного інтелекту, який би розглядав відповідні проблеми з точки зору фізики і математики. Нова структура може працювати паралельно з науковою радою ран з методології штучного інтелекту і когнітивних досліджень, яка діє вже протягом 15 років і розглядає розвиток систем ші комплексно – з точки зору гуманітарних, природничих і технічних наук.

Голова згаданої ради академік владислав лекторський, зауважив, що у іі «інша раціональність, ніж у людського розуму». Якщо дія людини відрізняється свободою вибору, усвідомленням того, що він робить, і відповідальності за це, то по відношенню до нових технологій в цьому плані виникають питання, сказав вчений. Незрозуміло, хто відповідає за дії штучного інтелекту: розробник, власник або сама система. Владислав олександрович підкреслив, що в юриспруденції вже опрацьовується поняття «відповідальність електронної особи».

Виникають і етичні проблеми, зазначив лекторський. В інституті філософії ран є фахівці в галузі етики, моральної філософії, які у взаємодії з фахівцями в сфері ші ці питання вивчають. Безконтрольні розробки можуть стати загрозою для людства. На заході в зв’язку з цим було введено поняття» довірений штучний інтелект», тобто доброзичливий по відношенню до людини. Існує і небезпека того, що скоро людина опиниться в повній залежності від штучного інтелекту. В обговоренні цих проблем не обійтися без філософії.

Коментуючи виступ лекторського, сергєєв підкреслив, що роботу з гуманітарних напрямків необхідно продовжувати, але важливо посилити саме фізико-математичні аспекти розглядуПроблем ші в рамках окремої структури, організувавши в подальшому взаємодію.

Академік-секретар відділення нанотехнологій та інформаційних технологій ран геннадій красніков зазначив, у свою чергу, що поділ функцій – логічне рішення. Підсумовуючи обговорення, голова ран запропонував відповідним секціям відділення математичних наук та відділення нанотехнологій виробити спільну пропозицію про нову наукову раду.

На думку академіка каляєва, ші повинен бути не тільки «довіреним», а й «патріотичним». Для цього потрібно сформулювати і впровадити в практику науково-обґрунтоване визначення ші, розробити і затвердити методику оцінки довіри до ші, що враховує в тому числі і його патріотичність. Необхідно також, вважає вчений, разом з технічним комітетом №164 зі стандартизації «штучний інтелект» розробити і впровадити стандарт оцінки довіреності до систем ші. Ще один момент, на який звернув увагу доповідач, полягає в тому, що основні досягнення ші в тому розумінні, як ми його сьогодні усвідомлюємо, пов’язані не з тим, що комп’ютери стали розумнішими, а з тим, що вони стали продуктивнішими.

Професор ран костянтин воронцов присвятив свій виступ фейкам і особливостям «політики постправди». Пошукові інтернет-системи з їх ранжируванням-це штучний інтелект. Рекомендаційні системи-це теж штучний інтелект. Воронцов представив технології виявлення обману. Фейкам неможливо протистояти без сучасних технологій машинного інтелекту, здатних обробляти потоки текстової та мультимедійної інформації обсягом в сотні мільйонів повідомлень на добу. В інтелектуальному аналізі даних стрімко виділилася нова область досліджень-детекція фейкових новин.

» протистояння загрозам політики постправди-соціально значуще завдання, місія і виклик для науково-технічного співтовариства. Вирішення цих завдань вимагає міждисциплінарного підходу, об’єднання зусиль політологів, журналістів, лінгвістів, психологів і ai-інженерів», – резюмував воронцов свій виступ.

Олександр сергєєв з доповідачем погодився.

Академік красніков присвятив свій короткий виступ новинам апаратної частини технологій ші. Заступник президента ран член-кореспондент ран володимир іванов підкреслив, що інформаційні технології і технології ші можна назвати базовими технологіями xxi століття, на них будуть грунтуватися всі без винятку напрямки розвитку, організації управління в найширшому діапазоні – від малого підприємства до державного – а також освіта, охорона здоров’я і т.д. Саме ці технології визначать новий етап глобалізації – «глобалізація 4.0: наука, технології, інновації».

«вважаю правильним, щоб на підставі сьогоднішнього обговорення ми вирішили створити академічну раду з безпеки штучного інтелекту», — підвів підсумки обговорення сергєєв.

Президія підтримала ідею організації нової ради з іі, а також пропозицію обговорити в раді безпеки рф питання про створення довіреного штучного інтелекту, тобто «з людським обличчям».