Регуляторы обсуждают ограничения ИИ
Регуляторы рынков в США и Великобритании рассмотрели возможные законодательные ограничения в индустрии искусственного интеллекта после новых заявлений экспертов о потенциальных опасностях этой технологии. Белый дом объявил о пакете мер, направленных на снижение потенциальных рисков, связанных с использованием искусственного интеллекта. Эти меры были анонсированы после встречи президента Джо Байдена и вице-президента Камалы Харрис с лидерами крупнейших технологических компаний, работающих в этой области. Они обсудили моральный долг по защите общества от потенциальных угроз, связанных с развитием искусственного интеллекта. В четверг на встречу в Белый дом пришли главы крупнейших игроков в индустрии исследований в области искусственного интеллекта, включая Сундара Пичаи из Google, Сатью Наделлу из Microsoft и Сэма Олтмена из Open AI, разработчика популярного чат-бота ChatGPT. Политики заявили предпринимателям, что на них лежит “фундаментальная ответственность”: они должны гарантировать безопасность своих продуктов, прежде чем выпускать их в широкое использование.
Новые нормы и финансирование
Представители Белого дома сообщили, что администрация президента рассматривает возможность введения новых законодательных норм, которые бы регулировали исследования в области искусственного интеллекта, и выделила государственное финансирование на создание новых исследовательских институтов. Согласно заявлению Сэма Олтмена, все предприниматели, присутствовавшие на встрече, удивительным образом не высказали разногласий относительно будущей регуляции отрасли. Все они также согласились пройти открытое тестирование своих систем искусственного интеллекта на конференции по кибербезопасности DEFCON, которая запланирована на август этого года.
Рост чат-ботов на базе ИИ вызывает опасения
Новые продукты на основе технологий ИИ, включая чат-боты ChatGPT и Bard от Google, быстро стали популярными среди пользователей по всему миру. Эти программы используют ИИ для имитации реального диалога с людьми и отвечают на запросы, ища информацию в интернете и формулируя ответы максимально естественно. Распространение чат-ботов, таких как ChatGPT и Bard компании Google, вызывает опасения. Бесконтрольное развитие технологий ИИ может привести к серьезным последствиям для людей. Среди этих последствий – неуправляемые потоки дезинформации, распространение трудноразличимых фейков и нарушения авторских прав. Кроме того, также возможно масштабное сокращение рабочих мест и потеря контроля над цивилизацией.
140 миллионов долларов на создание новых исследовательских институтов
Большинство исследований в области искусственного интеллекта в США в настоящее время проводятся частными компаниями, и их деятельность не регулируется. В результате встречи с предпринимателями, Белый дом выступил с заявлением о намерении усилить государственный сектор на этом рынке, выделив 140 миллионов долларов на создание семи новых исследовательских институтов. Главная задача этих институтов будет заключаться в координации усилий федеральных агентств, университетов, частных компаний и других организаций. Они будут заниматься продвижением систем искусственного интеллекта, соответствующих принципам этики, надежности и ответственности, и направленных на общественное благо.
В среду представитель Федеральной торговой комиссии США выступил с призывом к введению государственного регулирования в отрасли искусственного интеллекта. В четверг британское ведомство, ответственное за регулирование рынков и конкуренции, объявило о начале проверки деятельности индустрии исследований в области искусственного интеллекта. Эти заявления регуляторов США и Великобритании были сделаны после предупреждений экспертов, высказанных на протяжении последней недели.
Уход ведущих ученых: опасения по поводу развития искусственного интеллекта
На прошлой неделе ученый Джеффри Хинтон, известный как “крестный отец искусственного интеллекта”, покинул Google, чтобы свободно выражать свои опасения относительно развития этой технологии, не ограничиваясь корпоративными правилами. При этом он отметил, что подход Google к искусственному интеллекту является ответственным. Также в Британии советник правительства по научным вопросам Патрик Валланс ушел с должности на этой неделе и призвал министров принять меры перед тем, как развитие искусственного интеллекта приведет к серьезным социальным и экономическим потрясениям. Он отметил, что воздействие на рынок труда будет сравнимо с последствиями промышленной революции, где многие потеряют свои рабочие места, а другие получат работу, которую могут выполнять только люди.
Опасения и поддержка от ведущих предпринимателей
В марте Илон Маск и Стив Возняк, предприниматели и соучредители Tesla и Apple соответственно, подписали открытое письмо, выражающее опасения относительно рисков, связанных с искусственным интеллектом. Они призвали к временной приостановке исследований в этой области до разработки соответствующего законодательства. Другие эксперты, такие как Билл Гейтс, акцентируют внимание на пользе, которую может принести развитие искусственного интеллекта, и выступают приветствуют государственное регулирование отрасли для снижения рисков. Гейтс также подчеркивает необходимость того, чтобы развитые страны целенаправленно инвестировали в искусственный интеллект для оказания помощи беднейшим странам мира.В США также есть голоса, которые выступают за ограниченное регулирование искусственного интеллекта, чтобы не отстать от Китая в гонке за развитием этой технологии.