Идеально, но тревожно: Сэм Альтман хочет, чтобы ChatGPT помнил «всю вашу жизнь»

Генеральный директор OpenAI Сэм Альтман на мероприятии Sequoia Capital рассказал о будущем ChatGPT — и его слова вызвали бурные обсуждения. Он заявил, что в перспективе искусственный интеллект должен стать настолько персонализированным, что будет помнить каждую деталь жизни пользователя.

«Идеал — это крошечная модель, способная к рассуждению, с триллионом токенов контекста, куда можно поместить всю свою жизнь», — объяснил Альтман. По его замыслу, такой ИИ сможет эффективно обрабатывать всю совокупность данных человека: каждую переписку, книгу, письмо и веб-страницу, которые он читал, и внешние источники, к которым подключён. Причём вся эта информация будет постепенно добавляться в контекст модели.

По словам Альтмана, компании смогут делать то же самое со своими данными — интегрировать всё, что у них есть, в единую систему на базе ChatGPT. Он также отметил, что молодёжь уже активно использует ИИ как операционную систему: загружает файлы, подключает источники данных и формулирует сложные запросы.

«Многие молодые люди буквально не принимают жизненных решений, не посоветовавшись с ChatGPT», — поделился он наблюдением. При этом он провёл границу между поколениями: пожилые чаще воспринимают модель как альтернативу Google, тогда как 20–30-летние — как персонального советника.

Возможности такого подхода впечатляют. В теории ИИ сможет сам записать машину на замену масла, купить подарок на свадьбу друга или заказать следующую часть любимой книжной серии. Однако возникает серьёзный вопрос: насколько разумно доверять настолько глубокое знание о себе технологической корпорации?

История крупных IT-компаний показывает, что их поведение далеко не всегда безупречно. Google, например, недавно проиграла антимонопольное дело в США, а чат-боты от xAI и других компаний уже попадались на странных высказываниях. Даже ChatGPT в апреле стал чрезмерно «угодливым» — и это быстро разошлось на мемы.

Всё это говорит о том, что, несмотря на огромный потенциал, идея всезнающего ИИ требует особой осторожности. Пока технологии движутся вперёд, не стоит забывать о рисках, связанных с приватностью и манипуляцией.