Що означає регулювання штучного інтелекту в медіа для редакцій

Регулювання штучного інтелекту в медіа стає питанням прямої відповідальності редакцій у контексті євроінтеграції України та міжнародних стандартів прав людини пише “Жінки в медіа”. За останні п’ять років регулювання штучного інтелекту стрімко вийшло за межі рекомендацій для експертів і стало питанням прямої відповідальності медіа. Україна як держава-кандидатка до ЄС уже зараз має орієнтуватися на європейські та міжнародні стандарти — зокрема в частині захисту прав людини й протидії технологічно фасилітованому гендерно зумовленому насильству (TFGBV). Розбираємося, які нормативні акти діють сьогодні і що вони означають для роботи редакцій.

М’яке право

• Рекомендація CM/Rec(2020)1 Комітету міністрів державам-членам щодо впливів алгоритмічних систем на права людини. Цей ранній документ, розроблений в системі Ради Європи, пропонує запровадити низку обов’язків у сфері прав людини для держав щодо дизайну, розробки та застосування алгоритмічних систем. Однією з найважливіших є вимога розробити та впровадити належні керівні принципи щодо процедур оцінки впливу на права людини, які мають бути обов’язковими для всіх алгоритмічних систем, що несуть значні ризики для фундаментальних прав. Кореспондуючий обов’язок також передбачений і для приватних компаній, які мають проводити таку оцінку якомога відкритіше та з активним залученням індивідів та груп, які можуть зазнати шкоди від їх використання.
• Рекомендації щодо етики штучного інтелекту (ЮНЕСКО). Ці рекомендації 2021 року містять цінності та принципи, які мають бути враховані державами при розробці регуляторних підходів. Вони включають належний нагляд, оцінку впливу, механізми аудиту та належної обачності (due diligence), включно з захистом викривачів [§43]. Важливо, що гендерні питання згадуються як окрема сфера, що потребує розробки спеціальних стандартів. Серед ключових рекомендацій у цій сфері варто згадати вимогу відфільтровування гендерних стереотипів при створенні систем ШІ з метою уникнення таких типів насильства як-от домагання, булінг, або торгівля дівчатами та жінками [§89-90], а також підвищення репрезентації жінок у дотичних до ШІ сферах: підприємництві [§91] та академії [§92].
• Спільна декларація щодо штучного інтелекту, свободи вираження поглядів та свободи медіа.Презентована у 2025 році, ця декларація спеціальних доповідачів з питань свободи вираження поглядів різноманітних міжнародних організацій закликає держави забезпечити запобіжники щодо гендерно зумовленого насильства. Відповідні заходи мають включати попереджувальні та проактивні дії для адресування структурних та інституціоналізованих коренів  генерованого ШІ онлайн-насильства проти жінок, прийняття та впровадження законодавства з метою заборони, розслідування та переслідування такого насильства, а також надання незалежним органам, що мають експертизу у сферах рівності та недискримінації, повноважень з нагляду, моніторингу та адресування нерівних або дискримінаційних ефектів систем ШІ.

Міжнародні договори, розроблені Радою Європи

• Конвенція про запобігання насильству стосовно жінок і домашньому насильству та боротьбу із цими явищами.  Хоча власне Стамбульська конвенція не містить спеціальних норм щодо TFGBV, Загальна рекомендація ГРЕВІО №1 більше деталізує поняття сексуальних домагань, які мають бути криміналізовані або іншим чином карані відповідно до статті 40 Конвенції. Це поняття включає, серед іншого, створення зміненого цифровим способом зображення, на якому обличчя або тіло особи розміщується у порнографічному фото або відео, та включає діпфейки (визначені як синтетичні зображення, створені за допомогою ШІ). Та ж рекомендація закликає держави запровадити певні превентивні заходи щодо технологічно фасилітованого гендерно зумовленого насильства, зокрема заохотити ІКТ-сектор вживати активних кроків для уникнення гендерних упереджень при дизайні та розробці систем ШІ, створити внутрішні моніторингові механізми задля забезпечення включення жертво-центричних перспектив, та адвокатувати потужнішу обізнаність з перспективами та досвідами користувачок, зокрема тих, що мають ризик бути підданими інтерсекційним формам дискримінації.
• Рамкова конвенція Ради Європи про штучний інтелект та права людини, демократію та верховенство права (Рамкова конвенція про ШІ). Цей міжнародний договір, хоча ще і не набув чинності, охоплює регулювання технології ШІ та загальної оцінки її впливу на права людини, одним з обовʼязкових елементів якої є визначення відповідності системи ШІ принципам недискримінації, в тому числі гендерної рівності (стаття 10). Важливо зазначити, що Рамкова конвенція неодноразово критикувалася через заниження стандартів для залучення більшої кількості країн-підписантів. Як наслідок, її текст і передбачені нею механізми були сформульовані доволі загально, залишаючи значну дискрецію для національних урядів щодо визначення порядку її впровадження.

Законодавство Європейського Союзу

• Акт про штучний інтелект (Акт про ШІ). Цей акт законодавства ЄС, що є прямо застосовним у державах-членкинях ЄС, пропонує низку досить деталізованих норм, спрямованих на створення безпечного простору в контексті створення та застосування технологій ШІ. Зокрема, він містить категоризацію систем за рівнем ризику, забороняючи ШІ, спрямований на маніпулювання людською поведінкою, соціальний скоринг чи біометричну ідентифікацію. Крім того, Акт надає визначення діпфейку (стаття 3(44)(b)(І)) і зобовʼязує провайдерів систем ШІ забезпечити, щоб аудіо, зображення, відео та текст, згенеровані ШІ, належним чином маркувалися у машиночитному форматі і були чітко позначені як згенеровані чи маніпульовані (стаття 50(2)). Такий обовʼязок є потужним засобом протидії гендерно зумовленому насильству в контексті запобігання порнопомсті та іншим формам дезінформації проти жінок. На додачу, стаття 95 вказує, що добровільні кодекси поведінки у сфері ШІ також мають охоплювати питання оцінки та запобігання ризиків для вразливих груп, дотримуючись принципу гендерної рівності.
• Директива щодо протидії насильству проти жінок.Ця директива, яка має в подальшому бути впроваджена до національного законодавства державами-членкинями ЄС, встановлює стандарти з протидії гендерно зумовленому насильству. На відміну від Стамбульської конвенції, її стаття 5 чітко вимагає криміналізувати створення, маніпулювання або зміну з подальшим оприлюдненням за допомогою ІКТ та без згоди особи, зображень, відео або інших матеріалів, з яких може випливати, що зображена особа залучена до сексуальних дій, та які можуть спричинити серйозну шкоду зображеній особі. Пункт 19 преамбули до Директиви також згадує, що матеріали, створені за допомогою ШІ мають покриватися відповідною нормою.

Оскільки зазначені інструменти були розроблені в межах міжнародних організацій, членами яких Україна вже є, або, як у випадку з ЄС, планує отримати таке членство, їхня імплементація є важливим кроком для утвердження нашої держави як потужного гравця у сфері штучного інтелекту. У цьому контексті пропонуємо розглянути, які саме кроки вже здійснено Україною у напрямку регулювання технологій, зокрема з акцентом на протидії технологічно фасилітованому гендерно зумовленому насильству.

Українська призма регулювання ШІ

Хоча Україна активно рухається у напрямку розробки нормативної бази, наразі відсутнє законодавче регулювання штучного інтелекту. Питання правового статусу технологій, стандартів етичного використання та відповідальності за порушення залишаються невизначеними або носять рекомендаційний характер. Це створює ризики як для користувачів, так і для держави, особливо в контексті захисту від технологічно фасилітованого гендерно зумовленого насильства (TFGBV).

На міжнародному рівні, Україна підписала Рамкову конвенцію Ради Європи у травні 2025 року, і тепер планує розпочати процес ратифікації та розроблення підзаконних актів.

Також Україна стала однією з шести держав, які проводили пілотні тестування методології HUDERIA, що дозволяє підготувати український бізнес до впровадження регулювання у сфері ШІ. Одним з елементів оцінки в рамках такої методології є впровадження принципів недискримінації та комунікація з ключовими стейкхолдерами, які мають експертизу у сфері рівності. Коли Рамкова конвенція запрацює в Україні повною мірою, а проведення оцінки впливу на права людини буде обовʼязковим для усіх систем ШІ публічного сектору, важливо, щоб громадянське суспільство долучалося до процесів обговорень.

Крім того, в рамках євроінтеграційних зобовʼязань Україна мусить імплементувати Акт про ШІ та Директиву щодо протидії насильству щодо жінок. Хоча процеси імплементації обох актів тільки починаються, важливо пересвідчитися, що цей процес стане холістичним і враховуватиме усі контекстуальні особливості, а також ризики і загрози такого регулювання в Україні. Щодо Акту про ШІ, наразі Міністерство цифрової трансформації створило Білу книгу – план дій щодо регулювання ШІ в Україні, а також працює над розробкою Стратегії ШІ – документу, який буде визначати пріоритети для економічного розвитку цієї сфери. Відповідно до Білої книги, законодавче регулювання сфери ШІ планується розробити до 2027 року. Очікуваний час імплементації Директиви є аналогічним.

В контексті захисту прав журналісток від технологічно фасилітованого гендерно зумовленого насильства передусім варто згадати ряд рекомендаційних документів, які були розроблені в Україні та закріплюють правила етичного і відповідального використання ШІ в різних сферах:

• Рекомендації щодо відповідального використання ШІ у сфері медіа. Рекомендації звертають увагу на необхідність дотримання принципів недискримінації, втім не мають окремих спеціалізованих положень щодо протидії технологічно фасилітованому гендерно зумовленому насильству. Водночас, документ містить низку норм щодо маркування і необхідності перевіряти контент, що є надзвичайно актуальним в протидії діпфейкам, гендерній дезінформації та подібним загрозам. В майбутньому, документ варто оновити, звертаючи більшу увагу на гендерні питання.
• Рекомендації щодо відповідального використання ШІ у сфері реклами та маркетингових комунікацій. Цей документ звертає набагато більше уваги на питання гендерної рівності, посилаючись на загальну заборону дискримінації та дискримінації за ознакою статі в рекламній сфері. Так, рекомендації наголошують не лише на необхідності формальної рівності, а і на потребі забезпечити рівний доступ до технологій, а також участь жінок у процесах прийняття рішень на практиці.
• Рекомендації з відповідальної розробки систем із використанням технологій ШІ. Хоча документ не фокусується на гендерних питаннях, і в цілому є більш технічним, він пропонує ряд рішень щодо забезпечення рівності при створенні ШІ: доступ і консультації зі стейкхолдерами, фільтрування упереджень при укладанні наборів даних, забезпечення зворотного звʼязку для подолання проблем дискримінації у разі їх виявлення на етапі використання систем.

Попри наявність рекомендаційних документів і спеціального Словника термінів, у ньому відсутні поняття, що стосуються технологічно фасилітованого гендерно зумовленого насильства. Це свідчить про недостатнє залучення організацій з захисту жінок і загалом правозахисних організацій до процесу розробки політик і стандартів у сфері ШІ, а також про нестачу інтеграції гендерного підходу в національні документи з етики та регулювання штучного інтелекту.

Зрештою, Україна запустила регуляторну пісочницю для ШІ-проєктів – простір, де розробники можуть тестувати свої продукти на відповідність стандартам. Першими, хто отримає доступ до цього інструменту, будуть проєкти, що мають суспільне значення. Крім того, Україна планує створити власну LLM. Важливо переконатися, що обидві ініціативи враховуватимуть проблематику технологічно фасилітованого гендерно зумовленого насильства та орієнтуватимуться на забезпечення принципів рівності та недискримінації.

Що це означає для редакцій

Міжнародні та європейські стандарти регулювання ШІ дедалі чіткіше формують нові очікування і для медіа — навіть за відсутності повноцінного національного законодавства. Уже зараз редакціям варто врахувати кілька ключових підходів:

1.Закріпити правила використання ШІ всередині редакції

Навіть рекомендаційні документи вказують на необхідність прозорих внутрішніх політик. Для редакцій це означає:

• визначити, де і для чого дозволене використання ШІ (ілюстрації, транскрипція, переклад, генерація текстів тощо);
• зафіксувати принцип людського контролю над будь-яким ШІ-контентом;
• окремо прописати заборону або обмеження на створення синтетичного контенту, який може шкодити репутації, безпеці або гідності людей.

2. Запровадити обов’язкове маркування ШІ-контенту

Європейський Акт про ШІ прямо вимагає маркування згенерованого або маніпульованого контенту. Для медіа це:

• маркування текстів, зображень, відео або аудіо, створених із використанням ШІ;
• чітке інформування аудиторії, де закінчується журналістика і починається синтетичний контент;
• мінімізація ризиків поширення діпфейків і гендерної дезінформації.

3. Оцінювати ризики для вразливих груп ще на етапі публікації

Міжнародні стандарти наполягають на оцінці впливу на права людини. У редакційному контексті це означає:

• додаткову перевірку матеріалів, у яких фігурують жінки, журналістки, активістки, правозахисниці;
• усвідомлення, що ШІ може підсилювати онлайн-атаки, сексуалізоване насильство, цькування або порнопомсту;
• застосування принципу “не нашкодь” не лише до контенту, а й до інструментів його створення.

4. Підготувати редакцію до реагування на ШІ-атаки

Гендерно зумовлене онлайн-насильство з використанням ШІ — це не гіпотетичний ризик, а реальність. Редакціям варто:

• мати внутрішній алгоритм дій у разі діпфейків, фейкових відео або голосових підробок;
• розуміти, куди звертатися (платформи, правоохоронні органи, правозахисні організації);
• не залишати журналісток сам-на-сам із такими атаками.
• звернути увагу на гайд з алгоритмом дій для медіа від ГО «Жінки в медіа» «Що має зробити редакція в перші 24 години після онлайн-атаки на журналістку».

5. Слідкувати за імплементацією європейського законодавства

Навіть якщо повноцінне регулювання в Україні очікується до 2027 року, редакціям уже зараз варто стежити за імплементацією Акту про ШІ та Директиви щодо протидії насильству проти жінок та брати участь у професійних обговореннях і консультаціях.

Примітка: Цей матеріал частково опублікований як Розділ 5. Міжнародні та українські стандарти регулювання штучного інтелекту в дослідженні «Коли штучний інтелект стає ворожим: гендерні загрози проти українських журналісток» від ГО «Жінки в медіа» та ЮНЕСКО. Автори: Тетяна Авдєєва та Максим Дворовий, медіаюристи ГО «Лабораторія цифрової безпеки», юридичні консультанти ГО «Жінки в медіа».