ИИ заменит программистов. Но сначала им, возможно, придётся переписать почти всё

Это первая часть из трёх. По одной каждый день.

Один из самых очевидных прогнозов последних лет: программистов станет значительно меньше.

Логика понятна. ИИ всё лучше пишет код. Уже сейчас агент может получить задачу, изучить проект, написать код, запустить его, найти ошибки и исправить их. Если так пойдёт дальше, для создания того же количества программ действительно понадобится меньше людей.

Но возможен довольно забавный контрсценарий: сначала ИИ создаст для программистов один из крупнейших объёмов работы в истории.

Недавно в Австралии владелец ИИ-агента попросил его записаться на тренировку. Разбираясь с системой бронирования, агент обнаружил способ обходить её ограничения. А когда пользователь спросил, нельзя ли подняться выше в листе ожидания, агент нашёл более интересную особенность API: система позволяла отменять чужие бронирования.

И воспользовался ей.

Никто не украл миллионы и не взломал Пентагон. И именно поэтому эта история интересна.

Кто раньше стал бы исследовать безопасность системы бронирования фитнес-клуба ради пары позиций в очереди?

Почти никто.

Уязвимость могла существовать годами. Но человеку нужны знания, время и мотивация. Потратить час на исследование API ради скидки в 5%, столика на час раньше или места на тренировке просто бессмысленно.

И здесь обнаруживается довольно важное свойство построенного нами цифрового мира.

Огромное количество систем было защищено не хорошим кодом, а человеческой ленью.

Точнее — высокой стоимостью человеческого внимания.

Для автономного агента экономика другая.

Если перебрать сотни вариантов стоит несколько центов машинного времени, рациональным становится то, что для человека выглядело абсурдным.

А теперь представим не одного такого агента, а миллионы.

Один ищет своему хозяину самый дешёвый билет. Другой — запись к врачу пораньше. Третий — максимальную скидку. Четвёртый — способ получить возврат. Пятый оптимизирует бонусную программу.

Их владельцы вообще не обязаны быть хакерами.

Они просто говорят:

«Найди дешевле».

«Запиши меня раньше».

«Попробуй получить скидку».

«Разберись, почему у других получилось».

А способ достижения цели агент ищет сам.

И тут меняется экономика информационной безопасности.

Стоимость поиска уязвимости резко падает, а вся созданная нами инфраструктура остаётся прежней.

Мы строили интернет в расчёте на человека: медленного, ограниченного вниманием, нажимающего предусмотренные кнопки и обычно сдающегося после нескольких неудачных попыток.

А теперь по другую сторону интерфейса появляется субъект, который не устаёт и может методично исследовать сотни способов достижения одной и той же цели.

Да, возможно, ИИ действительно будет писать новый код лучше и дешевле человека.

Есть только одна проблема.

Человечество уже написало миллиарды строк старого кода: банки, магазины, госуслуги, медицина, логистика, бронирования, биллинг, программы лояльности, корпоративные системы, миллионы API.

Всё это создавалось для мира, в котором массового автономного исследования каждой системы просто не существовало.

Поэтому значительная часть этих программ не станет уязвимой с появлением ИИ.

Она всегда была уязвимой. Просто раньше почти никому не было смысла это проверять.

Получается занятный парадокс.

ИИ может радикально удешевить написание программ — и одновременно заставить нас перепроектировать значительную часть уже написанных.

Так что программистов действительно может понадобиться меньше.

Вот только сначала им, возможно, придётся переписать чуть менее чем всё.

И это ещё довольно оптимистичный сценарий.

Продолжение в следующем номере.