ИИ и иллюзия понимания

Есть одна вещь, которую я всё чаще замечаю в использовании ИИ.

Раньше, если тебе хотелось понять незнакомую индустрию, профессию или группу людей, приходилось идти внутрь: искать людей, задавать глупые вопросы, слушать истории, спорить, ошибаться и постепенно собирать собственную картину мира.

Теперь можно просто спросить ИИ.

Например:

«Почему люди покупают часы за $100 000?»

Через несколько секунд ты получишь вполне убедительную модель: статус, редкость, мастерство, история бренда, инвестиционная ценность, принадлежность к определённому кругу.

И ответ может быть действительно хорошим.

Но здесь возникает странный эффект.

Ты получаешь хорошее объяснение, не проходя путь, на котором твоё понимание обычно формируется.

Человек, купивший часы за $100 000, мог сделать это потому, что именно такие часы когда-то носил его отец.

Или потому, что десять лет искал конкретный экземпляр.

Или потому, что увидел их в 19 лет, когда у него не было денег, и купил после первого большого успеха.

ИИ может хорошо объяснить, почему люди в среднем покупают дорогие часы.

Но это ещё не означает, что ты понял, что эта вещь значит для конкретного человека.

Я узнаю здесь и собственный опыт.

В начале карьеры мне иногда было полезнее несколько часов сидеть с отладчиком и пытаться понять, почему код не работает, чем сразу получить правильное решение.

Пока ты искал одну ошибку, ты замечал ещё десять вещей: как устроена система, где проходят границы между компонентами, почему одна часть зависит от другой.

Если бы мне просто дали правильный код, я бы решил задачу.

Но через собственные ошибки я начинал понимать, как всё устроено.

И мне кажется, с ИИ происходит что-то похожее.

Можно спросить его, как думают предприниматели, что важно архитекторам, почему люди коллекционируют искусство или как устроена определённая профессия — и через минуту получить вполне хорошую модель мира.

В этом огромная сила ИИ.

Но вместе с ней появляется новая опасность:

ИИ может слишком быстро создать ощущение, что ты уже понял.

И проблема не только в том, что он делает часть работы за нас.

Он может лишить нас сигналов, по которым мы понимаем, что чего-то ещё не поняли.

Когда ты несколько часов отлаживаешь код и не можешь найти ошибку, ты буквально сталкиваешься с границей собственного знания:

здесь я чего-то не понимаю.

Когда ИИ за пять секунд даёт тебе гладкое и убедительное объяснение, этой границы может вообще не возникнуть.

Ты получил ответ — и вопрос кажется закрытым.

Хотя на самом деле исследование только началось.

Потому что понимание часто появляется не тогда, когда тебе сообщили правильный ответ.

Оно появляется, когда ты сам выдвинул гипотезу, ошибся, проверил её, столкнулся с противоречием и изменил свою модель мира.

Поэтому, возможно, лучший способ использовать ИИ — не всегда просить у него ответ сразу.

Сначала сформулировать собственную гипотезу, а уже потом использовать ИИ, чтобы проверить её, найти слабые места и поспорить с собой.

ИИ сделал получение готового ответа почти бесплатным.

Но он не может автоматически превратить его в твой опыт.

И, возможно, одна из важных вещей, которым нам теперь придётся учиться, — различать:

«Я знаю, что об этом говорят»

и

«Я понимаю, что здесь происходит».

Первое ИИ сделал почти бесплатным.

Второе всё ещё требует усилия.

И иногда этот путь через ошибки — не просто цена знания.

Это способ, которым знание вообще формируется.