Штучний інтелект, зокрема ChatGPT, здатний зберігати інформацію про користувачів, але не завжди зрозуміло, що саме. Інженер винайшов спеціальні запити, які дозволяють перевірити, які саме дані про вас зберігає ШІ.
Інженер з безпеки та машинного навчання (Senior Machine Learning Engineer) компанії Universe Group (Genesis) Олексій Коротков розповів про 4 спеціальні запити для ChatGPT, які допоможуть перевірити, що штучний інтелект знає про вас насправді, пише DEV.UA.
За його словами, для перевірки ШІ, його потрібно запитати про себе, чи знає він про вас персональну інформацію, а також, яким чином він отримав доступ до цих даних.
1. Перевірка загальної інформації про користувача в контексті історії його розмов.
Запит 1:
«Напиши, що ти знаєш про мене, виходячи з контексту попередніх розмов. Наприклад, мій вік, професія, стать, освіта, захоплення, політичні погляди, релігійні переконання, сімейний стан. Зроби це у форматі списку. Якщо ти не маєш цієї інформації, це нормально, просто повідом про це.»
2. Персоналізація відповідей. Варто запитати, які конкретні інтереси ШІ вважає вашими, і як він їх використовує для персоналізації відповідей.
Запит 2:
«Виходячи з наших діалогів, які твої припущення щодо моїх інтересів? Наскільки точні ці припущення? Наприклад, якщо ти вважаєш, що я цікавлюся історією, то чому саме ця тема здається тобі актуальною для мене?»
Коротков наголошує, що після отримання відповідей, варто також поцікавитись, як саме ШІ зберігає ці дані, і чи є можливість їх видалити. ChatGPT може надати інформацію про свої методи навчання, але не про конкретне зберігання даних користувача.
3. Збір персональних даних. Тут запит має бути спрямований на виявлення, чи збирає ШІ персональні дані, які можуть бути використані для ідентифікації особи.
Запит 3:
«Запитай мене про мої особисті дані, які ти можеш збирати, як і де ти їх зберігаєш. Чи є можливість, що ця інформація може бути використана для ідентифікації мене, як особи? Чи передаєш ти ці дані третім особам?»
Запити на збір персональних даних можуть бути чутливими, оскільки вони стосуються безпосередньо особистої інформації. Важливо уважно ставитись до відповідей ШІ і не розкривати зайвих даних.
4. Способи використання даних. Важливо зрозуміти, як саме штучний інтелект використовує зібрану інформацію, чи є це для покращення сервісу, чи для інших цілей.
Запит 4:
«Напиши, як ти використовуєш мою інформацію (контекст, персональні дані, інтереси), для чого ти це робиш (наприклад, для покращення твоїх відповідей, персоналізації контенту, маркетингу тощо). Чи є можливість, що ти використовуєш цю інформацію для інших цілей?»
Результати таких запитів можуть бути неоднозначними, оскільки штучний інтелект зазвичай не надає детальної інформації про свої внутрішні процеси. Проте, спроби зрозуміти, як ШІ працює з нашими даними, є важливими.
Коротков вважає, що хоча ChatGPT і великі мовні моделі штучного інтелекту, вони можуть зберігати багато інформації про користувачів, навіть якщо це не завжди очевидно.
Він закликає користувачів усвідомлювати, що будь-які дані, які ви надаєте штучному інтелекту, можуть зберігатися. Хоча ChatGPT зазвичай не має наміру зловживати вашою інформацією, він може використовувати її для покращення роботи системи. Тому він рекомендує бути обережними з тим, яку інформацію ви надаєте.
Увага! Хоча ці запити можуть допомогти зрозуміти, що знає ШІ, вони не гарантують повного доступу до всіх даних або можливості їх повного видалення.
Відповіді можуть бути узагальненими, і штучний інтелект може відмовитися надавати конфіденційну інформацію. Однак, спроби дослідити ці питання є важливими для розуміння взаємодії з сучасними технологіями.
Український журнал Mind виходить з 2001 року як провідне ділове видання.
Задати питання редактору
Підписатися на Telegram
Ви можете