Всі ми стали свідками нової чудової тенденції – гонки нейромереж на базі штучного інтелекту, в центрі якої знаходиться великий головний герой: ChatGPT . Однак незважаючи на численні переваги подібних програм, їх застосування можливе не тільки на благо, а й на шкоду. Саме «темній стороні» нейронок присвячено дослідження багатьох аналітичних агентств в останні місяці.
За словами аналітиків, зловмисники вже освоїли комплексний підхід до використання API OpenAI (алгоритм, що лежить в основі ChatGPT та інших програм) у своїх цілях.
Нейромережу залучають для перетворення шкідливого коду з однієї мови програмування на іншу, сприяючи міжплатформному поширенню вірусів. Основна проблема полягає в тому, що код, згенерований АІ, потенційно має дуже негативний вплив на кібербезпеку, оскільки захисного програмного забезпечення, написаного людьми, може бути замало для його придушення.
Додайте GSMinfo до джерел у Google News Щоб бачити наші публікації у своїй стрічці новин“Поки що це досить простий код, але вже зараз його можна використовувати”, – пояснюють експерти Check Point Software. «Одна з речей, для яких АІ хороший, — це автоматизація. Якщо хакери зможуть навчити чат-бота обходити захист, він продовжить навчатися, і стане інструментом для злому, що самовдосконалюється» — додають вони.
Також чат-боти активно використовують для написання фішингових електронних листів. В останньому звіті дослідники Recorded Future пишуть: «Здатність ChatGPT переконливо імітувати людську мову дозволяє йому стати потужним інструментом фішингу та соціальної інженерії». Експерти протестували чат-бота на цей вид атаки і попередили про відсутність граматичних помилок, що в таких випадках є відмінним показником шахрайських листів.
“Відсутність подібних індикаторів серйозно підвищує ймовірність того, що користувачі стануть жертвами фішингових розсилок, складених чат-ботами, які змусять їх надати особисту інформацію”, – пояснюють у Recorded Future.
З іншого боку, ще одна загроза, яку ми поступово спостерігаємо, – це дезінформація. Кіберзлочинці у своїх цілях активно займаються поширенням хибних відомостей прямолінійним та обманним шляхом. Вони грають на таких темах, як стихійне лихо, національна безпека, спекуляції, пов’язані з пандемією, щоб підштовхнути людей до переказу грошей або видачі своїх особистих даних.
Як вирішити цю проблему з ChatGPT?
З огляду на все це виникає питання: чи можна переробити ChatGPT або інші інструменти АІ так, щоб запобігти їх використанню з метою зловмисників? На жаль, відповідь тут буде не такою простою, як може здатися.
ChatGPT і подібні інструменти просто не можуть визначити, добрий чи поганий намір має людина, яка ним користується. І це є велика проблема. Для таких випадків OpenAI працює над методом нанесення «водяних знаків» на результати праць GPT, які згодом можна використовувати як доказ того, що вони були створені АІ, а не людьми. Але цей метод можна застосувати, наприклад, до дипфейків. А як бути зі згенерованим текстом чи шкідливим кодом?
Поки що таке рішення видається явно недостатнім. Давайте не будемо дуже турбуватися, оскільки, хоча ChatGPT простий у використанні на базовому рівні, втручання, щоб він міг генерувати шкідливе програмне забезпечення, вимагає технічних навичок, недоступних багатьом хакерам. Слід ставитись до всього цього з деякою заклопотаністю, але без драматизму, і сподіватися, що такі компанії, як OpenAI, вирішать ці проблеми вчасно.
