Названы риски массового использования искусственного интеллекта: почему некоторые страны хотят его запретить — МК
Названы риски массового использования искусственного интеллекта: почему некоторые страны хотят его запретить
Блеск и нищета СhatGPT
Поделиться
Можно ли простыми словами объяснить неспециалисту, что такое искусственный интеллект (ИИ), которым нас в последнее время пугают? Хотя, к примеру, все мы как минимум пользуемся смартфонами, где уже сталкиваемся с технологиями ИИ. А жить рядом с ИИ и быть свободным от него невозможно. Чтобы быть в курсе этого «нового наступления на человечество», я прошла ускоренные курсы по нейронным сетям, провела ряд встреч с экспертами, сходила на несколько конференций по ИИ, перелопатила гору информации. Уффф! Легче было вскопать гектар земли и посадить на нем, например, картошку. В последнее время в разговорной речи стало модненьким употреблять выражение «уметь в …». Например, «уметь в журналистику» значит хорошо писать тексты, «уметь в цифры» — хорошо считать и т.п. Так давайте попробуем научиться «уметь в ИИ».
Фото: freepik.com
Выплыть из пучины «информации»
Лавина публикаций на тему ИИ в последние месяцы колоссальна. Цунами, извержение вулкана, просто вселенский информационный потоп. Эти потоки закручивают, бросают человека из стороны в сторону. В итоге невозможно увидеть цельной картины происходящего. Люди запутываются окончательно. Оно и понятно: калейдоскоп текстов, передач в духе клипового потока сознания взрывает мозг. Одни авторы пугают, что скоро исчезнут многие профессии и десятки миллионов людей потеряют работу. Другие сетуют, что школьники и студенты быстро сориентировались и используют самую медийно раскрученную систему ChatGPT для выполнения учебных заданий. Масса заметок по каждому чиху, связанному с ИИ. То использование ChatGPT запретили в Италии, то вновь разрешили. Яндекс будет нанимать гуманитариев для дообучения своей GPT-подобной системы с зарплатой 150 тысяч рублей просто за общение с программой. В ЛДПР создали «электронного нейросетевого» Жириновского. Американская фирма с названием OPEN AI, которая и разработала ChatGPT, объявляет о вознаграждении до 20 000 долларов любому пользователю, который обнаружит некорректную работу системы. И бесконечные новости о том, как картины, созданные нейросетями, побеждают на выставках; как ИИ работает в медицине, геологии… Проще сказать, где он не применяется. Но самое главное, что искусственный интеллект не просто показывает эффектные фокусы. Он реально стал практическим инструментом, практически незаменимым по жизни.
Чистая математика в основе
Для понимания, как все работает, нам понадобятся всего три определения: что такое ИИ, ML (машинное обучение) и NN (нейронные сети). Без них никак не обойтись, потому что они ключевые.
Искусственный интеллект (ИИ) — это общее понятие, которое описывает машинные алгоритмы и технологии, направленные на создание интеллектуальных систем.
Машинное обучение (Machine Learning, ML) — это класс методов ИИ, позволяет компьютерам обучаться на основе больших объемов данных, извлекая из них закономерности. Используется в основном для решения различных задач классификации и прогнозирования.
Нейронные сети (Neural Networks, NN) — это одна из технологий машинного обучения, которая моделирует работу мозга человека. Нейронные сети могут использоваться для решения множества различных задач: для распознавания образов (например, автомобильных номеров на фотографии), перевода голосового сообщения в текстовое, генерации изображений по тексту, создания моделей чего-либо, текстов, картин и т.п.
То есть нейронные сети — это один из способов реализации машинного обучения. Вообще специалисты стараются меньше употреблять словосочетание «искусственный интеллект». Они предпочитают термин «машинное обучение». Это связано с тем, что существуют два принципиально разных способа использовать компьютер для решения задач. Классический заключается в том, что есть исходные данные. И есть формула (алгоритм), которая обеспечивает преобразование исходных данных в выходные (результат).
Второй способ применяют, когда у человека не получается разработать алгоритм самому. Есть входные и выходные данные, а алгоритм неизвестен. И вот чтобы компьютер мог решить задачу (например, распознавания лиц людей или товаров в магазине), применяются методы машинного обучения.
Вы скажете, зачем нам сдались все эти определения?! Но я попрошу не торопиться. Ведь все, что скрывается за написанными выше понятиями, очень помогает нам в повседневной жизни. Как? Повторюсь, почти у каждого из нас есть смартфон, компьютер. Мы регулярно забиваем свои запросы в поисковые системы, и они выдают нам нужные ответы. Например, тот же прогноз погоды. Или когда мы используем навигатор, управляя машиной, — он ведь тоже подстраивается под наши привычки и предпочтения. Я, например, в течение месяца, выезжая в дальнее Подмосковье, заправлялась на одной и той же заправке и останавливалась взбодриться кофе в конкретном месте. Но буквально на днях, следуя в том же направлении с полным баком топлива и со своим кофе в термосе, я не планировала остановок. Однако навигатор упорно предлагал мне заправиться и перекусить в уже «знакомых» ему местах. И еще много чего предлагал. То есть он уже сам за меня начал «думать». Наверное, многие давно заметили: стоит только поговорить о покупке какой-то вещи — и буквально через несколько часов уже ваш смартфон предлагает вам разные варианты этого предмета. Он ведь «подслушивает» все разговоры. Еще один пример. Несколько лет назад на всех станциях метро в Москве заработала система оплаты проезда с помощью распознавания лица. По официальным данным, только за прошлый год ею воспользовались 32 млн раз. А появление и широкое использование дронов, которые уже много чего могут делать самостоятельно? Вы думаете, что так и должно было быть и это естественные процессы? Ошибаетесь. Это результат машинного обучения, работы нейронных сетей, которые стремительно развиваются. Но все те примеры, которые я привела выше, лишь малюсенький кусочек «айсберга». Ведь мы с вами живем в ошеломительное, революционное во всех отношениях время. Этот «интеллектуальный» прорыв произошел именно за последнее десятилетие. Человечество вышло на этот качественно новый уровень благодаря… математике.
Тайна «черного ящика», или «Ларчик просто открывался»?
Я прослушала много выступлений и дискуссий, где участвовал директор по развитию технологий ИИ компании Яндекс Александр Крайнов. Он считает, что искусственный интеллект ничего не знает. Он не знает окружающий мир, слова, явления или еще что-нибудь. Он оперирует всегда с числами. Получив множество чисел на входе, ИИ выдает множество чисел на выходе. И он не знает, что за ними стоит. Просто множество чисел на входе переработали в числа на выходе. Внутри этого «ящика» могут быть какие-то очень сложные схемы типа нейронных сетей, навороченные формулы на миллиарды параметров. Но суть от этого не меняется. Это все равно просто некий «ящик».
— Все вы пользуетесь поисковыми системами, неважно, Яндексом, или Google, или вдруг еще какой-нибудь экзотикой. Уже давно в поисках работают технологии искусственного интеллекта. Вообще, чтобы вы понимали, поисковая формула — это миллиарды параметров сейчас. Там есть нейронные сети на миллиарды параметров. До того, как туда пришли нейронные сети, это все равно примерно гигабайт информации. Просто одна формула, если ее записать в электронном виде, будет весить примерно гигабайт. А чтобы записать ту же формулу от руки, нужно десять тысяч книг. И, конечно, такую формулу невозможно подбирать вручную. Она каждый раз ищется автоматически. Например, искусственный интеллект применяется сейчас для прогноза погоды, — говорит Александр Крайнов. — Вот вы видите, допустим, прогноз погоды по осадкам, где сейчас пойдет дождь. В команде Яндекса, которая делает прогноз погоды, есть только один метеоролог. Его взяли просто потому, что нельзя делать прогноз погоды, если у тебя нет ни одного метеоролога. В противном случае ты не имеешь права таким делом заниматься, отберут лицензию. Вот поэтому он там должен быть. А вообще, для того чтобы сейчас сделать свой прогноз погоды, ты собираешь данные, берешь несколько специалистов, которые «умеют хорошо в машинное обучение, в искусственный интеллект». И они там в результате, как мы говорим, «варят» некую формулу. Собирают какое-то что-то, что довольно точно может предсказать, где сейчас пойдет дождь. При этом, повторюсь, можно ничего не понимать в метеорологии. Ты просто рассматриваешь некое состояние атмосферы или еще что-то как набор изображений. У тебя есть историческая последовательность изображения. И ты по этой последовательности делаешь предсказание. То есть предполагаешь, какое изображение будет следующим. И тем самым решаешь задачу предсказания, какая будет погода. Хотя в целом ты работаешь просто с какой-то последовательностью картинок и тебе не нужно даже иметь специальные знания о дожде.
Тот же самый механизм работает, когда нейросеть выдает осмысленный текст. Выдача сводится просто к вычислению вероятностей появления нового слова в многократной последовательности. У нейросети нет модели реального мира! Нет понимания, как слова описывают явления этого мира. Лишь набор последовательностей. Математика.
Хотя мы постоянно слышим и видим красивые заголовки статей, как искусственный интеллект обыграл кого-то в шахматы, в го или в покер, нарисовал картину, сочинил музыку. Он это сделал не думая. И в этом блеск и нищета ИИ одновременно. Научится ли он думать самостоятельно — вот главный вопрос, который волнует человечество.
ИИ — кто он: бог или дьявол?
Летом прошлого года новость о том, что компания Google отстранила от работы инженера, нашедшего признаки сознания у ИИ, буквально взорвала информационное пространство. И это было предсказуемо.
Ведь не только сам термин «искусственный интеллект», но и его понятие давно источник неистовых споров. Еще в прошлом веке кипели страсти, разворачивались дискуссии на тему «может ли машина мыслить». Сегодня все то же самое. Скептики твердят: никакого ИИ нет, существует лишь компьютер; он может работать по программе, написанной человеком. А энтузиасты говорят: искусственный интеллект — наша гордость! Скоро все рутинные функции будут выполнять роботы: доставлять продукты, писать за человека компьютерные программы, музыкальные шедевры и разрабатывать высокие технологии…
И кто из них прав? Не будем спешить с ответом. Ведь чтобы его дать, нужно обладать набором знаний. А мы еще не все нюансы с вами узнали. Более того, мы только приближаемся к теме ChatGPT, который стал доступен широкой публике лишь в прошлом году. Это чат-бот с искусственным интеллектом, который может общаться с людьми на естественных языках и отвечать на различные запросы. То, что стоит за этим определением, трудно переоценить. ChatGPT способен не только вести диалог, но и сочинять стихи, прозу, резюмировать научные статьи, обрабатывать изображения по запросу пользователей, а главное — вести человеческий диалог на любую тему, любого уровня и на любом языке мира.
Вообще, GPT — это одна из разновидностей нейронной сети, генеративная нейронная сеть. GPT (Generative Pre-trained Transformer — генеративный предобученный трансформер) — гигантская нейросеть со 175 млрд параметров. Конечно, лучше бы по-русски сказать «генерирующая». Это больше бы передавало смысл процесса ее работы. Но термин уже прижился. Так вот, продукт ChatGPT — это на сегодня вершина нейросетевой эволюции, итогом которой станет искусственный интеллект, сопоставимый с человеческим.
Чтобы вам захотелось «врубиться» в эту тему, дам ряд шокирующей информации.
По официальным данным, размер убытков американской компании OPEN AI по итогам 2022 года составил 540 миллионов долларов. Это было связано с разработкой ChatGPT. В то же время компания стала одним из самых дорогих стартапов — инновационных бизнесов. По последним оценкам экспертов, ее стоимость составляет 29 миллиардов долларов. Аналитики подсчитали, что только на создание и обучение ChatGPT (да-да, она обучаемая!) потребовалось, например, 700 000 литров… воды в день. Это сопоставимо с ежедневным потреблением населенного пункта из 5000 человек. Да-да, для охлаждения мощных компьютеров-серверов используется чистая вода. И это пока самый дешевый способ охлаждения.
Каждый день миллионы пользователей задают вопросы ChatGPT. И серверам приходится работать на полную катушку. Согласно аналитическим материалам команды Mail.ru, 50 вопросов ChatGPT — это 1 л воды. А в день серверы ChatGPT потребляют столько воды, сколько требуется производству для создания 320 машин Teslа.
Сейчас ежедневные затраты на поддержку работы ChatGPT составляют 700 тысяч долларов. Число ее пользователей сегодня примерно 300 миллионов. По данным за февраль 2023 года, сайт ChatGPT посещают 13 млн пользователей в день — это 150 человек в секунду. Страшно представить цифру потраченных литров воды. Только на обучение ChatGPT потребовалось более 1300 МВт/ч.
Поэтому во весь рост встал вопрос энергоемкости и экологической безопасности этого супероборудования. Вектор развития один: чем выше скорость обработки информации, тем меньше ресурсов требуется для обслуживания этой поистине космической техники.
Многие авторитетные эксперты обоснованно считают, что в преддверии того, что ИИ может «захватить» весь мир, нужны упредительные меры технического и законодательного характера при его разработке. Технологии ИИ уже окружают нас везде, хотя мы этого не видим и не слышим. Например, скорость, с которой интеллектуальная система в нашем метро распознает лица в потоке движущихся людей, — 1,02 секунды. То ли еще будет! Зайдет, допустим, воришка в супермаркет, а у представителя службы безопасности тут же загорится лампочка: «Внимание! В зале серийный вор!» Система распознала его по лицу. В некоторых местах это уже работает.
Вот так незаметно ИИ ворвался в нашу жизнь, прервал привычный ход вещей и событий. Если сейчас вам стало немного страшно от прочитанного, то ваш ход мыслей очень верный. Ибо в данный момент пора затронуть вопрос безопасности при внедрении и дальнейшем развитии искусственного интеллекта.
Зависть богов
Умные люди, когда у них идет все слишком хорошо и по плану, обычно включают режим осторожности. Ведь у любого успеха есть обратная сторона. Наверное, это можно назвать завистью богов, когда вдруг неожиданно случается что-то не очень приятное. В любой большой программной системе, например, всегда есть риски утечки данных. И хотя специалисты постоянно работают над совершенствованием защиты, такое случается регулярно. Именно поэтому в Италии запретили использование ChatGPT: часть персональных данных пользователей системы стала доступна другим. Компания «Самсунг» ввела запрет на использование своими сотрудниками ChatGPT в рабочих процессах, опять же из-за опасности утечки важных данных. То есть один из видов риска использования ИИ — утечка данных. Второй же вид, более серьезный, — это доминирование самого ИИ над человеком. Неразумное использование ИИ — мина замедленного действия.
В этом году в мире случился ряд важных событий, которые усилили критичность второго вида риска.
В начале весны Илон Маск, сооснователи соцсети Pinterest, компании Apple и другие влиятельные бизнесмены, представители IT-отрасли подписали открытое письмо с требованием приостановить разработки очень мощных нейросетей хотя бы на полгода. Данное обращение подписали более тысячи IТ-специалистов. Это было предупреждение о том, что системы ИИ, где интеллект сопоставим с человеческим, могут представлять опасность для людского сообщества. Печальным итогом неконтролируемой деятельности ИИ может стать «потеря контроля над цивилизацией». И это вполне реальный сценарий. Авторы послания предупреждали: «Если подобную приостановку нельзя сделать быстро, правительства государств должны вмешаться и ввести мораторий».
И уже в конце этой весны в Белом доме президент США Джо Байден, вице-президент Камала Харрис встречались с главами корпораций Microsoft, Google. Здесь же был и Сэм Олтмен, гендиректор той самой компании Open AI. Смысл встречи заключался в следующих фразах, прозвучавших от властей США: «Для реализации преимуществ, которые могут быть получены в результате развития искусственного интеллекта, необходимо смягчить как существующие, так и потенциальные риски, которые искусственный интеллект представляет для каждого человека, общества в целом и национальной безопасности»; «К ним относятся риски в сферах безопасности, прав и свобод человека, неприкосновенности частной жизни, рабочих мест и демократических ценностей».
Ну что, дорогие читатели, теперь вы в состоянии ответить на вопрос, может ли машина думать? Если нет, то ждите продолжения темы.