Я весьма активно в последнее время экспериментирую с нейронками, причём не только в контексте их обычного использования для коддинга. Больше меня интересует как раз разработка под нейронки (автономные агенты, ага).

Так же сейчас перепрохожу по учебникам в свободное время институтский курс по линейке (а на очереди ещё вычмат, тервер и матан…) чтобы восстановить свои и так слабые знания по математике, необходимой для ИИ. Затем план уже конкретно в МЛ, БЯМ и прочеее вгрызться. Внезапно математика, когда ей занимаешься не «из под палки» потому что зачёт/экзамен, а только для себя — становится очень интересной. Прям жалею что в институте недооценивал. Но сейчас всё же не об этом речь.

Зайдя сегодня утром в читалку РСС наткнулся на просто великолепное: «AI-бот начал травлю сопровождающего из-за дискриминации при приёме AI-изменений» ¹. Сначала я усмехнулся абсурдности заголовка, но по мере того как погружался в контекст, прочитав сначала новость, потом, по ссылке пост от БЯМ, а затем и пост от человека — мне стало уже не до смеха. Причём сразу на нескольких уровнях.

Уровень первый: патчи от автономных агентов

Конечно же, я слышал о волне мусорных ИИ патчей² в популярных проектах. Но, в тот момент, ещё как-то не проникся. С одной стороны, я даже готов согласится с агентом в тезисе, что «математике всё равно кем написан код» («The math doesn’t care who wrote the code.»). Это так. Но всё же есть одна деталь. БЯМ (ну ок, ИИ) в нынешнем виде действительно могут писать код. И даже, весьма неплохой код, это не отнять. Но! Дело, на самом деле, не в коде как таковом. А в субъектности. У человека она есть, у ИИ-агента — нет. И это — ключевое.

Станислав Лем

Немного моих размышлений про будущее ИИ как технологии, а не философии.

Как водится, когда речь о размышлениях — буду сначала вводить тезисы, а потом, синтез.