Що таке AGI: загальний штучний інтелект
Автор: Редакція Domeny.ForSale Опубліковано
Коротко: AGI — це загальний штучний інтелект: система, яка могла б навчатися й розв’язувати найрізноманітніші проблеми, зокрема в нових для себе ситуаціях, на рівні, порівнянному з людським. Однак немає єдиного загальновизнаного визначення чи тесту, який підтверджував би досягнення AGI. Універсальний чатбот не стає автоматично AGI, а сам інтелект не означає наявності свідомості.
Що означає загальний штучний інтелект
Скорочення AGI походить від англійського artificial general intelligence. Слово «загальний» описує широту здібностей: ідеться не про досконале виконання одного завдання, а про можливість застосовувати знання й уміння в багатьох галузях. Така система має давати раду й проблемам, для яких їй заздалегідь не підготували докладної процедури.
Важливе тут перенесення знань — застосування в іншому контексті того, чого система навчилася раніше. Людина, яка опановує бухгалтерську програму, може використати попередній досвід роботи з електронними таблицями. Від AGI ми очікували б подібної гнучкості, але для значно ширшого кола завдань, ніж робота з програмним забезпеченням.
Визначення різняться тим, якого рівня здібностей вони вимагають. Одні наголошують на виконанні більшості пізнавальних завдань на рівні людини, інші — на здатності навчатися, самостійності чи корисності в роботі. Тому заява «ми досягли AGI» мало що пояснює, якщо не вказано, які критерії застосували та як їх перевірили.
Чим AGI відрізняється від сучасних моделей AI
Спеціалізований штучний інтелект розробляють або навчають для певного типу завдань, наприклад виявлення об’єктів на фотографіях чи рекомендації товарів. Він може перевершувати людину у своїй галузі й водночас не вміти виконати завдання поза її межами. Шахова програма не набуває загального інтелекту лише тому, що перемагає найкращих гравців.
Великі мовні моделі — системи, які вивчають мовні закономірності на великих масивах даних, — більш універсальні. Вони вміють створювати текст, аналізувати інформацію й допомагати з програмуванням. Мультимодальні моделі також обробляють різні типи даних, наприклад зображення та звук. Такий широкий спектр застосувань ускладнює простий поділ на AI «для одного завдання» та AGI.
Проте універсальність — не те саме, що надійна здатність розв’язувати нові проблеми. Модель може добре пояснити складну тему, а вже за мить помилитися в простому завданні або згенерувати неправдиву інформацію. Отже, вільного й зв’язного мовлення недостатньо для оцінки її загального інтелекту.
Не слід також ототожнювати AGI з агентом AI. Агент — це система, яка послідовно виконує кроки для досягнення мети, наприклад користується пошуковою системою та запускає код. Доступ до інструментів і можливість діяти без згоди користувача на кожен крок ще не доводять наявності загального інтелекту.
Як перевіряти, чи наближається система до AGI
Немає єдиного іспиту, який давав би остаточну відповідь на це питання. Бенчмарк, тобто набір завдань для порівняння систем, вимірює лише окремі вміння. Високий результат також може бути складно інтерпретувати, якщо подібні завдання вже були в навчальних даних моделі.
Оцінюючи заяви про AGI, корисно поставити чотири запитання:
- Чи справді завдання нові? Система має давати раду не лише відомим шаблонам та їхнім незначним варіаціям.
- Скільки допомоги їй потрібно? Важливо враховувати підказки, підготовку середовища та виправлення, які вносить людина.
- Чи відтворюється результат? Одна вдала демонстрація не показує ні частки помилок, ні умов, за яких система не справляється.
- Чи вміє вона використовувати нову інформацію? Важливо, щоб система пристосовувала свої дії до змінених правил, а не лише відтворювала завчені відповіді.
Уявіть систему, яка має спланувати постачання для невеликої пекарні. Їй потрібно розібратися в незнайомій електронній таблиці продажів, урахувати строки придатності, виявити відсутні дані та змінити план після поломки холодильної камери. Згенерувати переконливий графік замало: оцінка має охоплювати правильність обчислень, реакцію на зміну умов і здатність визначити, коли потрібно звернутися до власника, щоб він ухвалив рішення. Навіть успіх у цьому сценарії свідчив би про певні вміння, але сам по собі не підтверджував би досягнення AGI.
Чи означає AGI свідомість або надінтелект
AGI описує здібності, тоді як свідомість стосується, зокрема, суб’єктивних переживань. Система могла б відповідати функціональним критеріям AGI, але це саме по собі не доводило б, що вона щось відчуває. Висловлювання моделі «я маю свідомість» також не є таким доказом.
Надінтелект — окреме поняття: воно означало б інтелект, який істотно перевершує людський у широкому колі галузей. Отже, AGI за визначенням не обов’язково має бути кращим за людину в усьому. Він також не мусить мати тіло робота — хоча деякі концепції інтелекту наголошують на ролі взаємодії з фізичним середовищем.
Як оцінювати анонси AGI та ухвалювати рішення
Немає узгодженої дати появи AGI. Прогнози залежать як від оцінки технічного прогресу, так і від прийнятого визначення. Прогноз дослідника чи компанії слід сприймати як оцінку, а не як установлений термін.
Коли з’являється нова заява, перевірте в документації розробників, що вони вважають успіхом, як проводили тестування та які обмеження описали. Потім пошукайте незалежну оцінку: офіційна заява засвідчує позицію компанії, але сама по собі не дає остаточної відповіді, чи досягла її система AGI.
Якщо ви обираєте інструмент для роботи, почніть із власного тестового завдання та визначте допустимий рівень помилок. Для рішення про впровадження правильність результатів, вартість і можливість їх перевіряти важливіші за позначку «AGI».
Читайте також
