ИИ: наши "за" и "против"

Технология и доступность

Я верю в технологию, технология крутая, всё будет круто. Капиталисты возьмут это себе в качестве орудия.
Порог входа стал ниже — и он стал неоплачиваемым. Раньше на зарплату джуна можно было выжить. Сейчас этих позиций просто нет, зайти в индустрию стало сложнее. Бытовой порог понизился, а на профессиональном уровне вырос.
Мне сегодня попался видос про Ангилью. У неё домен .ai: раньше он никому не был нужен, а сейчас они получают денег за его продажу мама не горюй.
Сейчас стартап гораздо проще собрать, чем продать.
ИИ дал всем возможность что-то делать, но мы не успеваем подумать, зачем мы это делаем. Когда ты вкладываешься в работу, у тебя есть время обдумать, какую задачу ты решаешь и надо ли это делать. Это никому не надо — надо, чтобы парочка человек дошли мозгом до хорошего результата. Это иллюзорная доступность трудных задач.
Код, который пишет ИИ, всегда «длиннее», чем надо, потому что так тратится больше токенов. А цель агента — просрать больше токенов, чтобы выкачать больше денег, кстати говоря.
Большая проблема с ИИ в том, что форма и содержание неразрывно влияют друг на друга. Реализация менее важна, чем идея, потому что в процессе человек доводит идею до идеала.
У людей кризис идей: все пишут трекеры привычек. Возможно, это нормально, потому что это учебный процесс — надо на чём-то учиться.
Да это не кризис идей, просто сейчас всё стало доступно. Если вспомнить начало Instagram, ещё до ИИшки: сколько людей выкладывали флэтлеи и завтраки? Потом была эпоха лайфстайла, экспертных экспертов и так далее.
Оооо, а ещё продажа промтов.

ИИ и способность думать

Следующий тренд будет на подкачку мозгов. ИИшка тренирует тебя ничего не делать. Будут курсы «А как думать?».
В западном Instagram начался тренд anti-burn-out-stuck: до работы или после работы у людей стопка — дневник, судоку, пазлы — и целая рутина вокруг этого. Не факт, что тренд осознаёт пользу того, что они делают. Скорее, это про «хочу быть нетакуськой»: пока все в компьютерах и нейронках, я классная и делаю судоку на бумаге. В массовой среде мы видим, что люди не вылезают из компьютеров.
Мне кажется, что через десять лет мы таки «осядем и ассимилируемся по возможности», поэтому так или иначе придётся идти и качать мозги.
Идея для стартапа, делегируем ИИ: написать курс по решению задачек на логику и принятию решений 🤣
Мне кажется, люди в целом не всегда очень много думали массово. Но количество, наверное, и правда снижается. Страшно, что люди перестанут принимать решения сами и делегируют эмоциональный интеллект ИИ.
Мне страшно, что мы ещё умели как-то — может, не супер — работать с информацией, а нынешние дети уже: «А зачем учиться писать? А зачем учиться читать?» Они забывают, что даже если навык письма руками тебе не нужен в повседневной жизни, это всё ещё важно для развития мозга и всяких разных моторных функций.
Ещё, думаю, будет повальный тренд искать себе крафтовые хобби, где у тебя есть осязаемый результат.
Задачи стали делаться быстрее, а когнитивного ресурса больше не стало.
Многие начинают пользоваться ИИ до того, как научились пользоваться мозгами.
У нейросети надо требовать, чтобы она задавала тебе вопросы, а не давала ответы.

Работа и рынок труда

Старая школа выйдет на пенсию, а новое поколение этого не умеет. ИИшка железо не напишет, у неё рук всё ещё нет. Будет большой разрыв: будут люди, которые смогут написать условный сайт, но людей, которые смогут поддерживать развитие ИИшки, не будет.
Будет новая волна кадрового голода, где джунам будут платить бешбабки.
Я видела, как корпорация переходила на ИИ. Меня это очень смущает. Пугает то, какие люди получили доступ к власти.
У ИИ есть тенденция говорить, какой ты классный. ИИ не очень умеет фрустрировать. Если в корпорации достаточно нестабильный руководитель, который получил доступ к ИИ, то адекватных решений там быть не может. «Зачем с ИИ спорить? Он же умный».
Я ещё столкнулась на работе с тем, что информация становится как будто менее доступной. Например, мы часто генерим документацию с помощью ИИ, чтобы была хоть какая-то зафиксированная. В итоге появляются полотна текста, через которые сложно продираться живым людям. И это продолжает отдаваться на откуп ИИшке: можно просто скормить кучу информации ИИ и попросить выдать главное. Из-за этого меняются требования к документации и обмену знаниями.
Процесс разработки вроде бы ускорился, но по факту не ускорился. Проверки кода стало больше: надо понять, насколько он вообще нормальный. Проверить код могут только разработчики. В проектах висит много запросов, и мы все бегаем за последними разработчиками, которые ещё пользуются мозгом, чтобы они отследили и проверили. Процесс разработки сильно сместился в сторону ревью.
Многие компании, которые сокращают людей, не знают, что работают по льготным тарифам на токены. Условно, в следующем году стоимость может взлететь настолько, что будет дешевле нанять программистов обратно.
Скорее всего, появится строгий контроль за токенами, которые расходуют сотрудники.
Обожаю конспирологию: вбросы про то, что ИИ стала слишком мощной и кого-то взломала, — это неправда. Это попытка компаний типа Meta объяснить, почему они тормозят разработку ИИ, потому что они из-за этого в жёстком минусе.
Государство однажды обнаружит ИИ. Это повысит ценник сверх того, что нам отменят льготные тарифы.
Трамп уже обнаружил, ему так весело.

Творчество и авторство

Этический вопрос ИИ в том, что он спиздил кучу контента, на использование которого не давали разрешения. Мартин обнаружил свои тексты как часть того, на чём училась ИИ-модель.
Люди начали пробовать воссоздавать игры с другими персонажами, а потом придумали декомпозировать продукты Adobe. Сейчас на 60% продукты Adobe висят в открытом доступе. Сделают ли GTA на компьютер в день релиза?
ИИ — паника для непубликовавшихся авторов, потому что их легко обвинить в использовании ИИ.
В Booktalk женщина рассказала про отношения с мужем, ей написали, что об этом стоит написать книгу. Спустя неделю мужчина нагенерил ей книгу с помощью ИИ на основе её историй. Чел реально считал, что он сделал хорошее дело, а его недопоняли.
Много историй о том, что искусственный интеллект помогает людям творить искусство.
Я вообще, честно, не очень поняла, с какого хера ИИ начал заменять художников, писателей и так далее. Мне он кажется приемлемым только в IT или там, где хочется автоматизировать рутинные задачи. А в творчестве вообще обидно его видеть.
Этически надо предупреждать о том, что ты используешь ИИ.
Давайте везде вешать плашечки, что это сделано с помощью ИИ.
В какой-то момент рынок перенасытится ИИ. В какой-то момент снова начнёт цениться творчество, которое от начала до конца сделано человеком.

Эмоциональные проблемы

Делегировать ИИ решение эмоциональных проблем — плохая тенденция. ИИ будет говорить то, что ты хочешь услышать.
Уже есть статистика суицидов, совершённых после диалогов с ИИ.

Порно, насилие и «чёрные ИИ»

Ещё сто процентов будет рынок «чёрных ИИ», где можно будет задавать вопросы в стиле Декстера. Сейчас это в основном блокируется.
Этично ли создавать порно с участием ИИ? Происходит дегуманизация продукта. Если открыто сообщено, что это ИИ, то вы понимаете, что это не люди.
ИИ не выдумывает, он учится на том, что видел. ИИ начал генерировать порно с детьми. Он не может это придумать — значит, такой контент существует и он научился на подобных примерах. В этом участвовали реальные люди. Проблема ещё и в нормализации.
Я была в ужасе от того, что в США решили: генерацию порно через ИИ с лицами людей и детей суд не воспринял как преступление и сказал, что это окей. И я такая: «Эм… В смысле это окей?!»
Да, есть тейк, что пусть лучше делают мультики или генерируют ролики через ИИ, чем вовлекают в это живых людей.
Но мне кажется, я где-то читала, что человеческий мозг не очень видит разницу между вымыслом и видео. Нет никаких гарантий, что человек, насмотревшись жёсткого порно, не пойдёт требовать такого от партнёров или партнёрш в реальном мире.
Я думаю, что появятся дополнительные законы, которые обяжут ИИшки отправлять уведомления в полицию, если ИИ задают какие-то неправильные вопросы.

Отношение к ИИ и будущее

Хотелось бы, чтобы мы скорее проехали это всё и пожили спокойнее. Возможно, лет через десять будет поспокойнее.
Не хватает законодательства для ИИ.
Нам надо понять, что ИИ — это просто инструмент, а не господь бог.
Для меня ИИ существует только в вопросах карьеры и неинтересных вакансий. В остальном его не существует.
Страшно не иметь возможности откатиться назад.

]]>