Просто «виправити один факт» у великій мовній моделі недостатньо: пов’язані знання можуть залишитися суперечливими
У великих мовних моделях не існує простого «рядка бази даних», який можна безболісно замінити. Нова перспектива в Nature Machine Intelligence пояснює, чому сучасні методи knowledge editing часто дають суперечливий результат: факт змінюється, але залежні від нього знання та висновки залишаються старими.
Knowledge editing намагається оновити модель без дорогого повного перенавчання. Наприклад, якщо компанія перенесла штаб-квартиру, інженер хоче змінити саме цей факт і не зачепити решту можливостей системи.
Знання всередині моделі переплетені
Проблема в тому, що факт рідко існує сам по собі. Місцезнаходження компанії може бути пов’язане з відповідями про податки, часовий пояс, місцеве законодавство, історію та багатоетапні міркування.
Автори наводять приклади, де після редагування прямої відповіді модель уже називає нову штаб-квартиру, але в довшому тексті продовжує поводитися так, ніби компанія залишилася в старому місті.
Отже, успішне редагування має оновлювати не лише одну асоціацію, а й логічні наслідки, контекст та впевненість моделі.
Три напрями для наступного покоління редакторів
Дослідники пропонують працювати з взаємозалежними знаннями, враховувати ступінь впевненості моделі та робити оновлення контекстними, а не універсально однаковими.
Окрема проблема — побічні ефекти. Масове редагування може поступово погіршувати загальні здібності або створювати нові суперечності в інших відповідях.
Для систем, які повинні постійно оновлюватися після навчання, це фундаментальне обмеження. Світ змінюється щодня, а повністю перенавчати велику модель після кожного нового факту практично неможливо.
Тому майбутній ШІ потребує не просто «кнопки виправити факт», а механізму, ближчого до перегляду цілої системи переконань. Саме узгоджене оновлення знань може стати одним із ключових кроків до моделей, які залишаються актуальними без постійного повного перенавчання.
У перспективі редактор знань має працювати приблизно як система керування залежностями в програмному забезпеченні: зміна одного елемента повинна автоматично запускати перевірку всіх пов’язаних висновків. Без такого механізму модель може бути формально «оновленою», але фактично суперечити сама собі в різних контекстах.
