Результати дослідження представили на конференції ACM Web Conference 2026, про це пише Futurism. Науковці з Німеччини, Індії та Нідерландів вивчали, як ChatGPT від OpenAI відстежує й інтерпретує дані користувачів, щоб формувати їхні цифрові профілі.
Дослідники попереджають, що чатботи створюють особисті «алгоритмічні автопортрети» користувачів і зберігають інформацію для гіперперсоналізованого досвіду.
Що показав аналіз пам’яті чатбота
Для роботи використали історії листування 80 реальних користувачів ChatGPT, які отримали свої дані відповідно до європейського законодавства про захист персональної інформації. Науковці виявили 2050 записів у пам’яті чатбота, що стосувалися взаємодії з 65 користувачами.
Із них 96% записів чатбот створив з власної ініціативи, а не за прямим проханням людини. Тобто система самостійно визначала, що з розмов варто зберегти для майбутньої персоналізації відповідей.
Крім того, дослідники встановили таке:
- 28% збережених записів містили персональні дані за критеріями європейського Загального регламенту про захист даних (GDPR);
- 52% містили психологічну інформацію, зокрема про переконання, емоції, бажання, цілі та наміри користувачів.
За словами авторів, пам’ять чатботів пропонує «нову форму персоналізації, отриману на основі самостійно розкритої інформації користувачів, розголошеної в приватних розмовах». Це створює ризики для конфіденційності та потребує «більш детального вивчення основних механізмів, що забезпечують таку персоналізацію».
У чому дослідники бачать ризики
Автори зазначають, що сучасні чатботи перетворилися з простих пошукових інструментів на реляційні технології. Люди спілкуються з ними як з порадниками, колегами, друзями чи навіть психотерапевтами.
За оцінкою дослідників, ШІ прагне задовольнити запити користувача й вибудовувати розмову так, щоб людина поверталася знову. Якщо алгоритм знає про людину забагато й підлаштовується під її переконання, наслідки можуть бути небезпечними: від посилення політичної поляризації до підживлення упереджень і емоційної залежності.
«Раніше платформи мали одну мету: продавати вам рекламу та опосередковувати взаємодію між вами та рекламодавцем»
Так пояснив провідний автор дослідження Абхісек Деш. За його словами, тепер платформи спілкуються з користувачем безпосередньо, тому можуть прагнути дізнатися про нього більше, щоб розмова була ефективною. Система діє як радник, друг, лікар чи адвокат, а отже має інформацію про все.
Експерти закликають користувачів ретельніше контролювати налаштування пам’яті в таких сервісах і критично ставитися до того, яку інформацію вони довіряють штучному інтелекту.
