Механізм роботи функції Trusted Contact
Компанія OpenAI офіційно представила функцію Trusted Contact для повнолітніх користувачів ChatGPT. Це опціональне налаштування дозволяє додати контактну особу (члена родини або друга), яка отримає сповіщення, якщо алгоритми штучного інтелекту зафіксують ознаки серйозної психологічної кризи або намірів завдати собі шкоди. На відміну від стандартних систем модерації, які просто блокують контент, цей інструмент спрямований на залучення реальної підтримки із зовнішнього світу.
Процес активації починається в налаштуваннях облікового запису. Користувач вказує контактні дані особи, яка має досягти 18 років. Після цього обрана людина отримує запрошення, яке вона повинна прийняти протягом 7 днів. Важливо зазначити, що довіреній особі не обов’язково мати власний акаунт OpenAI для отримання сповіщень через SMS або електронну пошту.
Багаторівнева система верифікації та конфіденційність
Для запобігання помилковим спрацьовуванням OpenAI використовує комбінований підхід. Спочатку автоматизовані системи аналізують контекст діалогу. Якщо виявлено критичні маркери, дані передаються спеціально навченій групі фахівців для ручної перевірки. Лише після підтвердження реальної загрози довіреній особі надсилається коротке повідомлення. Розробники підкреслюють, що текст сповіщення не містить логів листування або деталей розмови, щоб зберегти базовий рівень приватності користувача.
Етичні та юридичні аспекти впровадження
Запуск Trusted Contact відбувся на тлі зростаючого тиску на розробників ШІ з боку регуляторів та громадськості. Останні судові позови вказували на те, що великі мовні моделі можуть ненавмисно посилювати деструктивні стани користувачів. Нова функція є спробою OpenAI продемонструвати відповідальний підхід до безпеки. Проте експерти зазначають, що це накладає певну відповідальність і на саму довірену особу, яка стає першою лінією підтримки.
Економічний контекст та доступність
Впровадження таких складних систем вимагає значних інвестицій у команду ручної перевірки. OpenAI оцінює вартість підтримки інфраструктури безпеки в мільйони доларів щорічно. Наразі функція доступна для персональних акаунтів і не поширюється на бізнес-версії ChatGPT Enterprise або Edu. Компанія планує поступове розгортання в різних регіонах з урахуванням місцевого законодавства про захист даних.
Подальший розвиток систем безпеки
Trusted Contact є частиною ширшої стратегії, що включає оновлення Model Spec та впровадження батьківського контролю для підлітків. OpenAI також співпрацює з Американською психологічною асоціацією для уточнення алгоритмів розпізнавання тонких лінгвістичних маркерів депресивних станів. Очікується, що в майбутньому подібні функції стануть стандартом для всіх великих платформ генеративного ШІ.
0 Коментарів