# data[].attributes.headline
Що очікувати від штучного інтелекту у 2025 році?

# data[].attributes.subject
Що очікувати від штучного інтелекту у 2025 році?

# data[].attributes.attachment_link.title
Штучний інтелект у 2025 році – загроза чи користь? ESET. | ESET

# data[].attributes.attachment_link.description
За останній рік розвиток штучного інтелекту значно прискорився, спричинивши резонанс як серед спеціалістів із кібербезпеки, так і серед звичайних користувачів Інтернету. У той час як спеціалісти застосовують штучний інтелект (ШІ) для підвищення кібербезпеки, зловмисники використовують технологію у своїх цілях. Тож цього року очікується зростання шахрайства, схем соціальної інженерії, афер з обліковими записами, дезінформаційних кампаній та інших загроз.

# data[].attributes.headline
Штучний інтелект проти реальності: як викрити підроблені зображення, аудіо та відео

# data[].attributes.subject
Штучний інтелект проти реальності: як викрити підроблені зображення, аудіо та відео

# data[].attributes.attachment_link.readable_text
Сьогодні штучний інтелект стрімко проникає в різні сфери нашого життя, зокрема у створення контенту. Щоб не дати ввести себе в оману й не стати жертвою маніпуляцій, важливо відрізняти згенеровані ШІ зображення, аудіо та відео від справжніх. Як це зробити, розповідає Володимир Тетерук, експерт у сфері штучного інтелекту, який впроваджує ШІ в українських і світових компаній та навчає цього у своїх соцмережах.
Сучасний штучний інтелект здатен генерувати тексти, зображення та інші види контенту, які доволі важко відрізнити від створених людиною. Широке використання ШІ для створення контенту (OpenAI GPT-4, DALL-E, Midjourney, Chat GPT тощо) має свої плюси та мінуси.

З одного боку, штучний інтелект забезпечує високу швидкість та ефективність створення контенту, водночас знижуючи витрати на його виробництво. З іншого боку, є ризик використання згенерованого ШІ контенту для створення фейкових новин, маніпуляцій, провокацій та дезінформації, що може впливати на політичні процеси й громадську думку, викликати соціальні конфлікти та інші негативні наслідки.

Важливо розуміти, хто стоїть за виробництвом контенту і з якими намірами він був створений, щоб уникнути можливих етичних проблем. Тому вміння відрізнити контент, створений ШІ, сприятиме його більш етичному та відповідальному використанню та допоможе захистити суспільство від негативних наслідків.

Читайте також: ChatGPT і не тільки: 20+ корисних сервісів на основі штучного інтелекту

Як зрозуміти, що перед вами зображення, згенероване ШІ

До візуальних ознак належать неправильна анатомія, невідповідні деталі та нереалістичні текстури. Наприклад, варто подивитися на пальці, вуха та очі. ШІ часто робить помилки у відтворенні людської анатомії: пальці можуть бути неприродно довгими або короткими, вуха розташовані на різних рівнях, а очі можуть мати різні розміри або форми.

Фони, відображення та тіні також можуть видавати штучність зображення. Наприклад, тіні можуть не відповідати напрямку світла, а відображення можуть не збігатися з основним об'єктом. Нереалістичні текстури, як-от надто гладка шкіра чи неприродне волосся, також є ознакою ШІ-генерації.

Виявлення технічних ознак штучності охоплює аналіз метаданих зображення, використання спеціалізованих інструментів і перевірку на інших джерелах.

JPEGsnoop - безплатна програма для аналізу зображень у форматі JPEG, яка може виявити, чи було зображення редаговане;

Fotoforensics - онлайн-сервіс, який аналізує зображення на предмет редагувань і змін;

Ghiro - інструмент для цифрової криміналістики зображень, який автоматично аналізує зображення та надає звіти про можливі фальсифікації.

InVID Verification Plugin - розширення для браузера, яке допомагає верифікувати фото- і відеоматеріали.

Метадані можуть надати інформацію про програмне забезпечення, яке використовувалось для створення зображення, зокрема ШІ-алгоритми. Для перегляду метаданих на комп'ютері Windows клацніть правою кнопкою на зображення, оберіть "Властивості" та перейдіть на вкладку "Подробиці". На комп'ютері MacOS відкрийте зображення у Preview, натисніть Tools у верхньому меню, а потім оберіть Show Inspector.

Спеціалізовані інструменти можуть аналізувати зображення на предмет можливих фальсифікацій. Приклади таких інструментів:

Перевірка через пошук на інших джерелах допоможе знайти оригінали чи інші версії зображення та визначити, чи є воно підробкою. Для цього завантажте або вставте URL зображення в Google Reverse Image Search і перегляньте результати пошуку. Ще один популярний сервіс для зворотного пошуку зображень - TinEye - теж знаходить схожі зображення в інтернеті й може допомогти визначити оригінальні джерела.

Як відрізнити аудіо та відео, згенеровані ШІ

аналіз спектрограми за допомогою інструментів Audacity, Sonic Visualiser - аудіо, створене штучним інтелектом, може мати аномалії або артефакти, які не зустрічаються у природних голосах;

аналіз мелодики та ритму за допомогою інструмента Praat - штучні голоси можуть мати неприродні інтонації та ритми;

аналіз формантів за допомогою інструмента Wavesurfer - аномальні або стабільні форманти можуть свідчити про штучне походження аудіо.

аналіз аномалій у спектрі за допомогою інструментів Adobe Audition, Izotope RX - аудіо, створене ШІ, може мати неприродні розриви або переходи між звуками.

В епоху стрімкого розвитку технологій штучного інтелекту виникає серйозна загроза - дипфейки. Це штучно створені відео- та аудіозаписи, які видають себе за реальні. Вони можуть мати різноманітне застосування: від політичної пропаганди до особистих маніпуляцій.

Deepware Scanner - аналізує аудіо на предмет використання технологій штучного інтелекту;

Resemble.AI - платформа для створення аудіо за допомогою ШІ, яка також може використовуватись для аналізу та порівняння голосів.

Аудіо, створене штучним інтелектом, часто має неприродні інтонації та ритми, які важко відрізнити від реального голосу. Виявити аномалії, які вказують на штучність, може аналіз акустичних характеристик аудіоматеріалу:

Deepware Scanner - інструмент для аналізу відео на предмет дипфейків;

FakeApp і DeepFaceLab - це програми для створення дипфейків, які також можна використовувати для вивчення технологій дипфейків та виявлення аномалій;

Sensity AI (раніше Deeptrace) - компанія, що займається виявленням та аналізом дипфейків за допомогою штучного інтелекту;

Amber Authenticate - платформа, яка перевіряє відео на автентичність і допомагає виявити маніпуляції та дипфейки;

FakeCatcher - інструмент для виявлення дипфейків, що аналізує мікровирази обличчя та інші фізіологічні особливості, які важко підробити;

Microsoft Video Authenticator - інструмент для аналізу зображення й відео на наявність маніпуляцій та дипфейків.

Ще інструменти, які можуть виявити неприродні елементи в аудіо, створеному штучним інтелектом, і визначити його справжність:

1. Завжди будьте скептичними. Якщо зображення, відео або аудіо здаються надто ідеальними чи дивними, вони можуть бути створені ШІ. Придивіться уважніше.

2. Аналізуйте візуальні та акустичні аномалії. Уважно придивіться до деталей зображень та відео: неприродні текстури, неправильна анатомія, невідповідність тіней і відображень. Для аудіо зверніть увагу на неприродні інтонації та ритми.

3. Використовуйте спеціалізовані інструменти, зазначені в цій статті. Перевіряйте контент через пошук за зображенням або аудіо. Це допоможе знайти оригінальні джерела та визначити, чи є контент підробкою.

4. Будьте обережні з новинами та вірусними матеріалами. Фейкові новини часто використовують контент, створений ШІ, щоб викликати паніку або маніпулювати громадською думкою.

5. Навчайтеся та інформуйте інших. Обізнаність про методи створення та розпізнавання контенту, створеного ШІ, допоможе вам і вашому оточенню уникнути маніпуляцій.

Відеодипфейки також мають свої підозрілі ознаки: невідповідність рухів губ зі звуком, аномалії у міміці та жестах, а також неправильні зміни освітлення або тіней. Виявити ці маніпуляції можна за допомогою візуального аналізу або спеціалізованих програм, які аналізують відео на предмет відхилень від норми:
Читайте також

Добірка безкоштовних курсів, які навчають роботи з ШІ та ChatGPT (оновлюється)

6 корисних ШІ-інструментів, які допоможуть знайти й отримати роботу мрії

Як штучний інтелект вплине на майбутнє професій? Колонка Дениса Суділковського

Основні поради для виявлення ШІ-контенту

Використовуйте ці поради, щоб захистити себе та своє оточення від підробок і маніпуляцій у цифровому світі. Будьте пильними й допомагайте підтримувати довіру до інформації в епоху штучного інтелекту.

# data[].attributes.attachment_link.title
Штучний інтелект проти реальності: як викрити підроблені зображення, аудіо та відео

# data[].attributes.attachment_link.description
Щоб не дати ввести себе в оману й не стати жертвою маніпуляцій, важливо вміти відрізнити підроблені зображення, аудіо та відеодипфейки від справжніх. Як це зробити?

# data[].attributes.headline
Як штучний інтелект використовується для шахрайства

# data[].attributes.subject
Як штучний інтелект використовується для шахрайства

# data[].attributes.body
Для введення людей в оману, шахраї вчать ШІ новим "трюкам":

надсилати фейкові персоналізовані повідомлення у соціальних мережах чи іншими засобами комунікації

писати електронні листи чи повідомлення, видаючи себе за когось іншого

створювати фейковий контент (корисні для шахраїв сайти, статті, публікації і т.ін.)

публікувати підроблені вакансії чи пропозиції

запускати фейкові рекламні оголошення чи повідомлення

створювати шахрайські інвестиційні схеми

підроблювати голос тієї чи іншої людини (для проходження голосової автентифікації або ж виманювання в людей "допомоги" буцімто близьким людям)

шантажувати жертв глибоко фейковою порнографією

# data[].attributes.headline
ШАХРАЙСЬКІ СХЕМИ З ВИКОРИСТАННЯМ ШТУЧНОГО ІНТЕЛЕКТУ

# data[].attributes.subject
ШАХРАЙСЬКІ СХЕМИ З ВИКОРИСТАННЯМ ШТУЧНОГО ІНТЕЛЕКТУ

# data[].attributes.body
Нещодавно фільми про нейромережі, що контролюють практично всі аспекти життя і здатні вирішувати проблеми за людей, виглядали як фантастика. Проте вже сьогодні нейромережі стають частиною нашого повсякденного життя. Штучний інтелект тепер може вести розмову так, що не завжди можна зрозуміти, чи розмовляє з вами справжня людина чи нейромережа. І цим активно користуються шахраї. Кіберзлочинці використовують алгоритми машинного навчання та нейронні мережі для доступу до особистої інформації користувачів.

# data[].attributes.headline
Штучний інтелект може видавати себе за ваших дітей. Як вберегтись

# data[].attributes.subject
Штучний інтелект може видавати себе за ваших дітей. Як вберегтись

# data[].attributes.attachment_link.title
Штучний інтелект може видавати себе за ваших дітей. Як вберегтись — Віталій Якушев, Єгор Аушев

# data[].attributes.headline
Як обманюють нейромережі:

# data[].attributes.subject
Як обманюють нейромережі:

# data[].attributes.body
• Копіюють голоси та зовнішність реальних людей, у тому числі для здійснення відеодзвінків.

• Створюють фальшиві документи.

• Генерують обманні фотографії.

• Створюють помилкові новини та розсилки.

• Продають товари, яких не існує, залишають фальшиві відгуки та накручують рейтинги.

• Заманюють на ресурси шахраїв.

# data[].attributes.headline
Шахрайство за допомогою штучного інтелекту: як захиститися?

# data[].attributes.subject
Шахрайство за допомогою штучного інтелекту: як захиститися?

# data[].attributes.attachment_link.title
Шахрайство за допомогою штучного інтелекту: як захиститися?

# data[].attributes.headline
Діпфейки та шантаж за допомогою ШІ

# data[].attributes.subject
Діпфейки та шантаж за допомогою ШІ

# data[].attributes.body
Однією з найстрашніших форм шахрайства з використанням штучного інтелекту є можливість шантажу за допомогою deepfake. Завдяки швидкому розвитку технологій генерації зображень, зловмисники можуть створювати підроблені оголені тіла, до яких прикріплюють обличчя будь-якої людини. Це розширило явище, відоме як “порно помста”, тобто розповсюдження інтимних зображень без згоди. Шантаж зазвичай не обмежується одним платежем — після першого платежу часто слідують нові вимоги.

# data[].attributes.headline
Поширені види шахрайств. Клонування голосу

# data[].attributes.subject
Поширені види шахрайств. Клонування голосу

# data[].attributes.body
Клонування голосу

Хоча синтезовані голоси існують давно, лише нещодавно технології досягли такого рівня, що можуть створити копію голосу з мінімальної кількості аудіоматеріалу. Це означає, що будь-хто, чий голос був публічно доступний, може стати об’єктом імітації.

Шахраї вже використовують цю технологію для створення правдоподібних копій голосів рідних чи друзів. Хоча ці голоси можна змусити сказати що завгодно, найчастіше вони використовуються для створення фальшивих прохань про допомогу.

Типовий сценарій може включати батьків, які отримують голосове повідомлення з невідомого номера, що звучить як голос їхньої дитини. У повідомленні може йтися про крадіжку речей під час подорожі та прохання про фінансову допомогу. Подібні схеми можуть варіюватися, включаючи проблеми з автомобілем чи медичні витрати.

Такі шахрайські дії вже мали місце, навіть з використанням голосу президента Байдена. Хоча винних у цьому конкретному випадку було знайдено, майбутні шахраї, ймовірно, будуть діяти більш обережно та витончено.

Як боротися з клонуванням голосу?

Не покладайтеся на спроби розпізнати підроблений голос самостійно. Якість імітації постійно покращується, а недоліки можна легко замаскувати. Навіть фахівці можуть бути введені в оману.
Ставтеся з підозрою до всіх повідомлень з незнайомих джерел, будь то номер телефону, електронна пошта чи обліковий запис. Якщо хтось представляється вашим знайомим або близькою людиною, спробуйте зв’язатися з цією особою звичним для вас способом. Швидше за все, ви дізнаєтеся, що з ними все гаразд і що отримане повідомлення було шахрайським.

Зазвичай шахраї не наполягають, якщо їх ігнорують, на відміну від справжніх родичів. Можна тимчасово залишити підозріле повідомлення без відповіді, поки ви перевіряєте його достовірність.

# data[].attributes.headline
Основні поради для виявлення ШІ-контенту

# data[].attributes.subject
Основні поради для виявлення ШІ-контенту

# data[].attributes.body
1. Завжди будьте скептичними. Якщо зображення, відео або аудіо здаються надто ідеальними чи дивними, вони можуть бути створені ШІ. Придивіться уважніше.

2. Аналізуйте візуальні та акустичні аномалії. Уважно придивіться до деталей зображень та відео: неприродні текстури, неправильна анатомія, невідповідність тіней і відображень. Для аудіо зверніть увагу на неприродні інтонації та ритми.

3. Використовуйте спеціалізовані інструменти, зазначені в цій статті. Перевіряйте контент через пошук за зображенням або аудіо. Це допоможе знайти оригінальні джерела та визначити, чи є контент підробкою.

4. Будьте обережні з новинами та вірусними матеріалами. Фейкові новини часто використовують контент, створений ШІ, щоб викликати паніку або маніпулювати громадською думкою.

5. Навчайтеся та інформуйте інших. Обізнаність про методи створення та розпізнавання контенту, створеного ШІ, допоможе вам і вашому оточенню уникнути маніпуляцій.