По каким законам в России живут роботы
В этом материале
- Что такое экспериментальный правовой режим
- Как работают беспилотные такси
- Что нужно для запуска робота
- Какие требования появятся в 2025 году
Роботы-доставщики, роботы-грузчики, роботы-официанты, роботы-сиделки. Сегодня этот список можно продолжать бесконечно. Искусственный интеллект стал частью нашей жизни. В 2026 году, по данным Международной федерации робототехники, в мире будет установлено около 700 тыс. промышленных роботов1. Общее их количество сейчас составляет около четырех миллионов.
"Технологии всегда идут впереди правового регулирования, – считает Сергей Плуготаренко, генеральный директор АНО "Цифровая экономика", – поэтому законодателю при разработке правовой базы в сфере инновационных технологий нужно смотреть на несколько шагов вперед. На мой взгляд, у нас это получается". Так какие же правила сегодня действуют для искусственного интеллекта в России?
Как устроены "регуляторные песочницы"
В этом году Российская Федерация, по данным Минэкономразвития России2, вошла в первую десятку стран по внедрению искусственного интеллекта. Основой для развития инноваций выступает Федеральный закон от 31 июля 2020 г. № 258-ФЗ "Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации".
В соответствии с этим актом под ЭПР в сфере цифровых инноваций понимается введение специального регулирования для разработки, апробации и внедрения цифровых инноваций на определенный срок. Такой режим называют регуляторной "песочницей", которая дает возможность компаниям протестировать новые технологии без соблюдения некоторых требований закона.
ЭКСПЕРИМЕНТЫ СЕГОДНЯ
В России действует 16 ЭПР. Среди них эксперимент с беспилотными такси, которые ездят в Сколково, "Сириусе" и Иннополисе3. Действуют также беспилотные логистические коридоры, в которых ездят грузовики-автопилоты, например, по трассе М-11 Москва – Санкт-Петербург4. На Камчатке, Чукотке, в Ханты-Мансийском и Ямало-Ненецком автономных округах5, а также в Томской области внедрен ЭПР, в рамках которого разрешены грузовые перевозки беспилотными летательными аппаратами6. Роботы-транспортировщики работают на территории "Газпромнефти", "Яндекса" и других крупных компаний. Экспериментальный правовой режим по эксплуатации беспилотных трамваев установлен в Москве и Санкт-Петербурге7.
Механизм регуляторных "песочниц" стал эффективным инструментом для стимулирования инноваций. Впервые экспериментальный режим появился в 2016 году в Великобритании. В России первая "песочница" была создана двумя годами позже. В 2018 году Банк России запустил проект, созданный для тестирования услуг и сервисов в финансовом секторе. В том же году Правительством РФ был начат эксперимент по эксплуатации беспилотников на дорогах общего пользования. Сегодня регуляторные "песочницы" действуют в ряде государств: Австралии, Бахрейне, Великобритании, Индонезии, Канаде, Китае, Малайзии, ОАЭ, Сингапуре, США, Таиланде, Швейцарии.
"В плане регулирования сейчас развитию ИИ ничего не мешает", – считает Сергей Пивень, управляющий партнер Авито. – Все понимают, что это очень перспективная тема, но в практической реализации она свой потенциал еще не раскрыла. При этом все изменения в этом направлении происходят стремительно. А когда что-то очень быстро меняется, то регулирование обычно отстает от этого процесса. Но я не вижу в этом никаких проблем, ведь регулировать нужно то, что уже устоялось. В противном случае есть риск создать законы, которые будут далеки от реальной практики".
Сферы проведения экспериментов | Условия |
| Использование:
|
Беспилотные такси в России
Сегодня в нескольких регионах можно попробовать работу экспериментальных правовых режимов на себе. Так, каждый желающий имеет возможность прокатиться на беспилотном такси. Заказать этот вид транспорта можно, например, в Сколково или Иннополисе через приложение Яндекс Go. Сервис предлагает поездку на беспилотнике наряду с обычными тарифами. Движение автопилотов в целом регулируется теми же правилами, которые применяются для обычных такси, но с некоторыми исключениями. Они касаются требований к техническому осмотру, оснащению машины привычными атрибутами такси, квалификации водителя и др.
Сейчас в России есть два варианта беспилотников, предусмотренных законодательством8:
- с водителем, который находится за рулем или на переднем пассажирском сиденье и следит за работой автомобиля9;
- без водителя под присмотром удаленного оператора10.
Перед началом использования беспилотного такси нужно получить заключение о соответствии требованиям безопасности. Кроме обычной страховки ОСАГО, каждая машина должна быть застрахована на 10 млн руб. на случай нанесения вреда жизни, здоровью и имуществу других лиц. Если беспилотник первого типа нарушит правила дорожного движения, например, попадет в ДТП, то ответственность в первую очередь понесет водитель-испытатель11. В такси без водителя ответственность ложится на удаленного оператора, компанию или специалистов, осуществляющих проверку технического состояния автомобиля. Если беспилотник нанес средний или тяжкий вред здоровью вплоть до смертельного исхода, статус компании в экспериментальном правовом режиме приостанавливается.
Как начать свой проект
Экспериментальный правовой режим позволяет отменить или скорректировать действие нормативных актов, которые препятствуют внедрению и развитию инноваций. Это открывает огромные возможности для тестирования без нарушения правовых норм. По словам Сергея Плуготаренко, за два года применения "регуляторных песочниц" в России появилось много интересных проектов. "Как показывает практика, тестирование не привело ни к каким потрясениям. Это значит, что механизм ЭПР себя оправдал. Мы видим, что постепенно вектор законодательного регулирования меняется с охранительного на стимулирующий. Государство намеренно и дальше поддерживать IT-компании. Такой подход отражен в Национальной стратегии развития искусственного интеллекта на период до 2030 года12, согласно которой Россия должна стать регуляторным раем для этой сферы" – отметил эксперт.
Реализация ЭПР имеет следующие особенности:
- устанавливается на определенной территории, как правило, субъекта, города или района;
- вводится на конкретный срок, обычно от года до трех лет;
- субъектами ЭПР могут стать юридические лица и индивидуальные предприниматели, а также государственные органы и органы местного самоуправления;
- распространяется только на участников эксперимента, которые работают в соответствии с программой ЭПР, не все жители региона подпадают под его действие;
- предусматривает частичное приостановление или изменение законодательства РФ.
Стать участником эксперимента можно двумя путями. Первый – инициировать создание собственной "песочницы", второй – присоединиться к действующему ЭПР. Порядок и возможности присоединения указаны в постановлении правительства РФ об утверждении ЭПР в той или иной сфере. При этом компания (или индивидуальный предприниматель) должна соответствовать определенным требованиям:
- лица, входящие в органы управления не имеют судимости (с 5 января 2025 года это требование будет отменено13);
- нет задолженности по налогам и сборам;
- отсутствуют сведения о процедуре банкротства, ликвидации;
- не является иностранным юридическим лицом;
- доля офшорных компаний в составе участников в совокупности не превышает 50%.
Для создания ЭПР необходимо разработать проект программы экспериментального правового режима. В проекте следует описать, в чем будет заключаться тестирование и какие правовые нормы этому мешают. Важно подчеркнуть пользу, которую эксперимент принесет для общества. "Инициировать установление ЭПР может как одна компании, так и группа организаций, – говорит Сергей Плуготаренко. – При этом лучше подавать заявку от лица нескольких предприятий, объединенных в блок по конкретному виду бизнеса или технологических разработок".
С подготовленной заявкой нужно обратиться в Минэкономразвития России14. В течение 15 рабочих дней (со следующего года этот срок будет сокращен до 5 рабочих дней) ведомство должно провести проверку, и в случае соответствия требованиям закона об экспериментальных правовых режимах направить проект программы в АНО "Цифровая экономика" и другие инстанции. Если замечаний к проекту нет, то Минэкономразвития России разрабатывает проект постановления правительства об утверждении программы ЭПР. После этого в рамках эксперимента запускаются беспилотные машины или трамваи, внедряются новые технологии телемедицины, запускается беспилотная авиация. Сегодня минимальный срок рассмотрения и установления экспериментального правового режима составляет 90 рабочих дней, а со следующего года он будет до 50 рабочих дней.
Если замечания есть, то разногласия рассматриваются на правительственной комиссии по цифровому развитию, использованию информационных технологий для улучшения качества жизни и условий ведения предпринимательской деятельности. По результатам рассмотрения принимается решение о дальнейшей судьбе проекта.
Новые правила для участников ЭПР с 2025 года
С 5 января вступят в силу изменения в закон об экспериментальных правовых режимах (Федеральный закон от 8 июля 2024 г. № 169-ФЗ). Помимо отмены требований об отсутствии судимости и сокращении минимального срока установления ЭПР с 90 до 50 рабочих дней, нововведения коснутся вопросов причинения вреда жизни, здоровью и имуществу других лиц.
Законом предусмотрена ответственность за причинение такого вреда в рамках ЭПР. Для расследования и оценки всех обстоятельств нанесенного ущерба будет создаваться специальная комиссия. В ходе ее работы оценивается объем и характер причененного вреда, в том числе технические сбои и ошибки, допущенные при разработке и внедрении технологий искусственного интеллекта, а также действия или бездействия ответственных лиц.
На основании выводов комиссии будут приниматься решения о принятии следующих мер:
- минимизация и устранения последствий причинения вреда;
- предупреждение подобных случаев в будущем;
- изменение условий экспериментального правового режима;
- приостановление статуса субъекта экспериментального правового режима.
Кроме того, законом предусмотрено обязательное страхование вреда, причиненного жизни, здоровью и имуществу других лиц в рамках ЭПР. Установлены требования к условиям страхования, в том числе минимальный размер страховой суммы, перечень страховых рисков и страховых случаев. Для реализации этих нововведений разработаны три проекта постановлений правительства:
- новые правила изменения экспериментального правового режима в сфере цифровых инноваций15;
- оптимизация отчетов о деятельности в рамках ЭПР и уточнение порядка подготовки предложений о внесении изменений в общее регулирование16;
- изменения, устанавливающие основание для приостановления статуса субъекта ЭПР17.
"Я безусловно разделяю подход, что в будущем искусственный интеллект может представлять определенную опасность, и он нуждается в осознанном незапретительном регулировании. Если смотреть немного вперед, то мы близки к появлению самообучающихся алгоритмов и развитию искусственного интеллекта, который сможет обладать когнитивными способностями выше человеческих. Есть такая легенда, что посредством блокчейна искусственный интеллект руками человека уже строит для себя новую реальность, – рассказывает Сергей Калмыков, генеральный директор Кибердома. – Наша задача сделать так, чтобы он служил людям, а не наоборот. Кроме того, недалек тот день, когда страны будут конкурировать между собой не столько человеческими ресурсами, сколько искусственным интеллектом. Поэтому вопросы защищенности здесь важны не менее физической безопасности людей. Важно отметить еще один аспект: искусственный интеллект – это производная человеческих ресурсов, знаний, смыслов. Условно говоря, мы получаем то, что вкладываем в него. Мы видим, как меняются нейросети в зависимости от того, кто ими пользуется. Примитивные запросы формируют аналогичные ответы – искусственный интеллект учится у нас. Поэтому можно надеяться, что у него нет шансов поработить мир, пока существует естественная глупость".
Как минимизируют риски от новых разработок в Европе, Америке и Азии
Ограничения и запреты в области искусственного интеллекта активно внедряют и в других государствах. Так, в августе 2024 года в Европейском союзе вступил в силу закон об искусственном интеллекте18, который направлен на создание единого подхода к регулированию ИИ в Европе. Основой акта является риск-ориентированный подход, при котором все технологии разделены на четыре категории. Недопустимый риск – запрещен социальный рейтинг и манипулятивный ИИ. Высокий риск – системы, использующие ИИ в здравоохранении или при найме сотрудников, должны соответствовать строгим требованиям по надзору, качеству данных и управлению рисками. Ограниченный риск – чат-боты и системы, генерирующие контент, должны информировать пользователей о взаимодействии с искусственным интеллектом. Минимальный риск – системы вроде спам-фильтров и игровой ИИ не подпадают под строгие требования, для них действуют рекомендации. Штрафы за нарушение закона могут достигать 35 млн евро19.
Большое внимание безопасности и прозрачности уделяется и в регулировании искусственного интеллекта в США. В октябре прошлого года там вступил в силу указ о безопасном, надежном и заслуживающем доверия искусственном интеллекте20. Согласно этому акту устанавливается обязанность по раскрытию алгоритмов, результатов тестирования и методик, используемых при разработке технологий искусственного интеллекта. Предусмотрена маркировка контента, созданного при помощи ИИ. Провайдеры должны также гарантировать, что их разработки не нарушают права человека.
Китайское регулирование искусственного интеллекта фокусируется на государственной безопасности, поддержании политической стабильности и предотвращении злоупотреблений технологиями. В прошлом году Китай также ввел регулирование искусственного интеллекта – начали действовать "Временные меры по управлению генеративным системами искусственного интеллекта"21. Этот нормативный акт обязывает разработчиков генеративных платформ нести ответственность за весь созданный контент. Они должны следить за точностью и надежностью данных, а также предотвращать генерацию контента, который может подрывать социалистические ценности или угрожать государственному строю. Актом предусмотрена защита персональных данных пользователей и прав на интеллектуальную собственность.
_____________________________
1 World Robotics 2023 – Industrial Robotsi (fr.org/img/worldrobotics/Executive_Summary_WR_I№dustrial_Robots_2023.pdf)
2 Подробнее см. www.eco№omy.gov.ru/material/№ews/mi№eko№omrazvitiya_rossiya_voshla_v_top_10_stra№_po_v№edre№iyu_ii.html
3 Постановление Правительства РФ от 9 марта 2022 г. № 309 "Об установлении экспериментального правового режима в сфере цифровых инноваций и утверждении Программы экспериментального правового режима в сфере цифровых инноваций по эксплуатации высокоавтоматизированных транспортных средств"
4 Постановление Правительства РФ от 17 октября 2022 г. № 1849 "Об установлении экспериментального правового режима в сфере цифровых инноваций и утверждении Программы экспериментального правового режима в сфере цифровых инноваций по эксплуатации высокоавтоматизированных транспортных средств в отношении реализации инициативы "Беспилотные логистические коридоры" на автомобильной дороге общего пользования федерального значения М-11 "Нева"
5 Постановление Правительства РФ от 24 марта 2022 г. № 462 "Об установлении экспериментального правового режима в сфере цифровых инноваций и утверждении Программы экспериментального правового режима в сфере цифровых инноваций по эксплуатации беспилотных авиационных систем в Камчатском крае, Ханты-Мансийском автономном округе - Югре, Чукотском автономном округе и Ямало-Ненецком автономном округе"
6 Постановление Правительства РФ от 24 марта 2022 г. № 458 "Об установлении экспериментального правового режима в сфере цифровых инноваций и утверждении Программы экспериментального правового режима в сфере цифровых инноваций по эксплуатации беспилотных авиационных систем в Томской области"
7 Постановление Правительства Российской Федерации от 25 июля 2024 г. № 1006 "Об установлении экспериментального правового режима в сфере цифровых инноваций и утверждении Программы экспериментального правового режима в сфере цифровых инноваций по предоставлению транспортных услуг с использованием высокоавтоматизированных рельсовых транспортных средств (трамваев)"
8 Постановление Правительства РФ от 9 марта 2022 г. № 309 "Об установлении экспериментального правового режима в сфере цифровых инноваций и утверждении Программы экспериментального правового режима в сфере цифровых инноваций по эксплуатации высокоавтоматизированных транспортных средств"
9 ЭПР для высокоавтоматизированных транспортных средств 1-й категории устанавливается на территориях г. Москвы, г. Иннополиса (Республика Татарстан) и федеральной территории "Сириус".
10 Экспериментальный правовой режим для высокоавтоматизированных транспортных средств 2-й категории устанавливается на территориях г. Иннополиса (Республика Татарстан) и инновационного центра "Сколково" г. Москвы.
11 Водитель-испытатель признается водителем в соответствии с положениями Правил дорожного движения Российской Федерации, утв. постановлением Совета Министров – Правительства РФ от 23 октября 1993 г. № 1090 "О правилах дорожного движения".
12 Национальная стратегия развития искусственного интеллекта на период до 2030 года, утв. Указом Президента РФ от 10 октября 2019 г. № 490 "О развитии искусственного интеллекта в Российской Федерации"
13 Федеральный закон от 8 июля 2024 г. № 169-ФЗ "О внесении изменений в Федеральный закон "Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации".
14 Для категории "Финансовый рынок" проект необходимо направлять в Банк России.
15 С текстом проекта постановления Правительства РФ "Об утверждении Правил изменения экспериментального правового режима в сфере цифровых инноваций" можно ознакомиться на федеральном портале проектов нормативных правовых актов (ID: 01/01/09-24/00150451).
16 С текстом проекта постановления Правительства РФ "О внесении изменений в постановление Правительства Российской Федерации от 3 декабря 2020 г. № 2011" можно ознакомиться на федеральном портале проектов нормативных правовых актов (ID: 01/01/09-24/00150452).
17 С текстом проекта постановления Правительства РФ "О внесении изменений в постановление Правительства Российской Федерации от 19 ноября 2020 г. № 1888" можно ознакомиться на федеральном портале проектов нормативных правовых актов (ID: 01/01/09-24/00150654).
18 Подробнее см. https://artificiali№tellige№ceact.eu/ai-act-explorer/.
19 Подробнее см. https://artificiali№tellige№ceact.eu/article/99/.
20 Подробнее см. https://www.whitehouse.gov/briefi№g-room/preside№tial-actio№s/2023/10/30/executive-order-o№-the-safe-secure-a№d-trustworthy-developme№t-a№d-use-of-artificial-i№tellige№ce/
21 Подробнее см. https://www.cac.gov.c№/2023-07/13/c_1690898327029107.htm