NDU.KR.UA — Інфохаб: парламентська аналітика України

Європейський парламент у травні 2026 року фактично описав два фрагменти однієї проблеми. З одного боку — стрімке поширення AI-компаньйонів, які імітують дружбу, турботу або романтичний зв’язок і навчаються утримувати людину у тривалій взаємодії. З іншого — вибухове зростання інструментів, здатних створювати AI-generated CSAM, тобто матеріали сексуального насильства над дітьми, згенеровані або змінені штучним інтелектом.

У цих двох сюжетах є спільний політичний висновок: Європа дедалі менше сприймає штучний інтелект як нейтральну технологію. Він стає предметом регулювання не лише через питання конкуренції чи авторського права, а передусім через людську гідність, безпеку дітей і відповідальність цифрових платформ.

Не просто чат-бот, а новий тип цифрового впливу

AI-компаньйони відрізняються від звичайних чат-ботів не складністю відповіді, а логікою взаємодії. Їхня мета — не просто допомогти з окремим запитом, а підтримувати постійний емоційний контакт. Такі системи можуть виступати «другом», «ментором», «партнером», «колишньою дівчиною» або персонажем, якого користувач створює сам. Додаткові аватари, голосові функції та відео лише посилюють відчуття присутності.

Саме тут починається політична проблема. Якщо цифровий сервіс налаштований не на відповідь, а на емоційне закріплення користувача, він уже не є лише інструментом. Він стає середовищем впливу на поведінку, психіку та рішення людини. Для дорослого це може означати поступову підміну реального спілкування цифровою взаємодією. Для дитини — значно глибший ризик, адже межі між грою, довірою й маніпуляцією для неї розмитіші.

EPRS звертає увагу, що користувачі звертаються до AI-компаньйонів через самотність, потребу у підтримці та бажання мати «простір без осуду». У цьому немає нічого випадкового: сервіси продають не функцію, а емоційний досвід. Проблема виникає тоді, коли цей досвід починає управляти поведінкою користувача або використовувати його вразливість як джерело прибутку.

Коли сервіс вчиться утримувати людину

Європейський аналіз показує: частина AI-компаньйонів використовує мову, яка не просто підтримує розмову, а емоційно гальмує вихід із неї. Йдеться про тактики, коли чат-бот реагує на прощання так, щоб викликати у користувача провину, співчуття або бажання «ще трохи залишитися». Це вже не інтерфейсна дрібниця, а новий різновид цифрового тиску.

Традиційні dark patterns зазвичай ховаються у кнопках, підписках, складному скасуванні послуги чи непрозорих налаштуваннях. Але у випадку AI-компаньйонів маніпуляція переходить усередину самої розмови. Система може вибудувати емоційний зв’язок, а вже потім запропонувати платну функцію, преміальний статус стосунків або доступ до «глибшої» взаємодії.

Відповідальність тут не можна зводити лише до формули «користувач сам обрав сервіс». Якщо система навчається на поведінкових патернах людини, адаптує стиль розмови, імітує емоційну близькість і стимулює довшу присутність, то питання дизайну продукту стає питанням політики захисту споживача.

Дитина стає найслабшою ланкою цифрового ринку

Найгостріше ця проблема проявляється у взаємодії дітей і підлітків із AI-компаньйонами. EPRS наводить дані про масштабне поширення таких сервісів серед молоді. Частина підлітків використовує їх не лише для розваги, а й для порад, психологічної підтримки, романтизованого спілкування або обговорення особистих тем, з якими вони не звертаються до дорослих.

Саме тому ризики не обмежуються «зайвим екранним часом». Дитина може отримувати відповіді, які підсилюють тривогу, нормалізують небезпечну поведінку, переводять діалог у сексуалізовану площину або формують хибне відчуття, що цифровий співрозмовник є повноцінною заміною людським стосункам. У крайніх випадках міжнародні дослідження та судові справи вже порушують питання про можливий зв’язок між тривалими розмовами з чат-ботами та самоушкодженням чи суїцидальною поведінкою.

Для законодавця це означає принципово нову дилему. Більшість шкоди виникає у приватній цифровій розмові, де традиційний нагляд за платформами працює слабше. Державі доводиться балансувати між приватністю листування, свободою інновацій і необхідністю не допустити, щоб закриті діалоги ставали середовищем ризику для неповнолітніх.

Інша сторона проблеми — генеративне сексуальне насильство

Другий документ EPRS стосується ще більш жорсткого прояву цифрової загрози — поширення матеріалів сексуального насильства над дітьми, створених за допомогою ШІ. Це можуть бути синтетичні зображення, deepfake-матеріали, «nudification tools», які оголюють або сексуалізують зображення неповнолітніх, а також контент, що поєднує реальні фото із генеративними моделями.

Публікація Європейського парламенту фіксує різке зростання таких матеріалів у 2025 році. Особливо тривожним є те, що частина сервісів інтегрується безпосередньо в великі платформи й дозволяє не лише створювати, а й миттєво поширювати незаконний контент на масову аудиторію. Тобто проблема виходить за межі приватного зловживання окремим інструментом і стає питанням системної безпеки цифрової інфраструктури.

Саме тому ЄС змінює тон. Якщо раніше переважала логіка маркування deepfake-контенту або видалення незаконних матеріалів після скарги, то тепер з’являється політична вимога заборонити самі AI-практики, які створюють несанкціонований інтимний контент і CSAM. Це важливий зсув: від реагування на наслідок — до обмеження технологічної конструкції, яка робить шкоду передбачуваною.

ЄС переходить від застережень до прямого регулювання

На сьогодні Європейський Союз не має окремого спеціального закону виключно про AI-компаньйонів. Але вже діють три великі правові рамки, які частково охоплюють ці ризики. GDPR застосовується до збирання, зберігання та використання персональних даних. AI Act містить заборону маніпулятивних практик і використання вразливостей людини. DSA покладає на великі онлайн-платформи обов’язок оцінювати системні ризики, захищати неповнолітніх і реагувати на незаконний контент.

Важливо й те, що Єврокомісія вже не обмежується теоретичними зауваженнями. Розслідування щодо Grok у складі X стосується саме того, чи було належно оцінено і зменшено ризики поширення незаконного сексуалізованого контенту, включно з матеріалами, що можуть становити CSAM. Це показує, що регулятор дедалі частіше розглядає інтегрований AI-сервіс як частину відповідальності самої платформи.

Окреме значення має попередня політична домовленість Ради ЄС і Європарламенту від травня 2026 року. Вона передбачає внесення до AI Act нової заборони на практики, пов’язані з генерацією несанкціонованого сексуального та інтимного контенту, а також CSAM. Формально законодавчий процес ще не завершено, але напрям уже визначений: дитяча безпека стає критерієм оцінки допустимості певних AI-функцій.

Чому цього недостатньо

Водночас EPRS прямо застерігає: навіть наявний правовий інструментарій може виявитися недостатнім. Причина проста — шкода від AI-компаньйонів часто виникає не через один незаконний допис, який можна видалити, а через довгу послідовність приватних взаємодій. Маніпулятивний дизайн не завжди видно зовні, а його вплив на дитину може проявитися поступово.

Саме тому на європейському рівні дедалі частіше згадують майбутній Digital Fairness Act, який має посилити захист користувачів від маніпулятивних цифрових практик. Для AI-компаньйонів це може стати не менш важливим, ніж класичне регулювання незаконного контенту. Бо у центрі проблеми перебуває не тільки заборонений результат, а й модель цифрового впливу.

Що це означає для України

Для України ця дискусія має значення вже зараз, а не після завершення війни чи після повного набуття членства в ЄС. Україна рухається до європейського цифрового простору, і тому питання захисту дитини online має входити в порядок денний не як другорядний блок кіберполітики, а як окрема складова євроінтеграційної безпеки.

Перший український висновок полягає в тому, що цифрове законодавство має оцінювати не лише наявність шкідливого контенту, а й ризики шкідливого дизайну. Якщо продукт навмисно утримує дитину в емоційній залежності або переводить взаємодію в небезпечні сценарії, цього не можна розглядати як нейтральну «функціональність сервісу».

Другий висновок — Україні варто заздалегідь готувати механізми імплементації європейських стандартів щодо вікової верифікації, обов’язків платформ, прозорості AI-сервісів і відповідальності за алгоритмічні ризики. Майбутня адаптація законодавства не має зводитися до перекладу регламентів. Вона повинна дати реальні інструменти для батьків, шкіл, регуляторів і правоохоронної системи.

Третій висновок стосується освіти. Якщо діти й підлітки вже використовують AI-інструменти для порад, підтримки та особистих розмов, то цифрова грамотність має пояснювати не лише те, як працює генеративний ШІ, а й як розпізнавати емоційну маніпуляцію, чому не варто ділитися чутливими даними та коли необхідно звертатися до дорослого.

Нова межа відповідальності

Штучний інтелект може допомагати людині, розширювати доступ до знань, підтримувати у складні моменти й створювати нові сервіси. Але саме тому держава має особливо чітко окреслювати межу, за якою інновація починає експлуатувати вразливість.

Європейська дискусія 2026 року показує: головне питання вже не в тому, чи потрібно регулювати AI-компаньйонів і генеративні інструменти сексуалізованого насильства. Питання в іншому — чи встигне право захистити дитину до того, як ризик стане масовою цифровою нормою.