Уявіть собі дуже начитану людину, яка прочитала тисячі підручників з математики, мільйони розв'язаних задач, форуми, де студенти сперечаються про знаки при інтегруванні, і шкільні зошити з помилками та виправленнями. Ця людина неймовірно добре знає, як зазвичай виглядають розв'язки. Але вона не завжди розуміє, чому саме так. Ось, власне, і є сучасний штучний інтелект у математиці.
ШІ — це не калькулятор. Зовсім
Перше і, мабуть, найважливіше непорозуміння: більшість людей вважають, що штучний інтелект у чомусь схожий на калькулятор — тільки розумніший. Це не так. Калькулятор виконує чіткі арифметичні операції за детермінованими правилами. Він не помиляється в тому, що 2 + 2 = 4. Хоча деякі китайські калькулятори таки помиляються. Він навіть не "знає" цього — він просто виконує операцію.
Мовні моделі — а саме на них побудовані сучасні ШІ-помічники — працюють принципово інакше. Вони передбачають найбільш вірогідний наступний токен (слово, символ, фрагмент тексту) на основі величезного масиву навчальних даних. Простіше кажучи, ШІ шукає відповідь за аналогією: "я бачив схожі задачі, і там відповідь виглядала ось так". Тому розумний математичний калькулятор не виконує прямих обчислень за умовою задачі - він екстраполює (переносить щось схоже на поточні умови). Це має високий ступінь ризику на помилку.
Мовна модель — це статистична машина передбачення тексту, а не логічний вивідний двигун. Вона не "обчислює" відповідь — вона "пригадує" найбільш схожий патерн з тренувальних даних.
Саме тому ШІ може блискуче розв'язати складний інтеграл, який зустрічався в навчальних матеріалах тисячі разів, і при цьому зробити дивну помилку в простому арифметичному прикладі з нестандартним формулюванням — бо такого формулювання в навчальних даних майже не було.
Технічні причини математичних помилок
Окрім принципової різниці в архітектурі, є й суто технічні фактори, які призводять до помилок.
- Нечіткість природної мови. Математика вимагає абсолютної точності, а природна мова — ні. Слово "більший" може означати "більший або рівний" або "строго більший" залежно від контексту. ШІ не завжди правильно розпізнає, який саме варіант мається на увазі.
- Багатокрокові обчислення. Чим довший ланцюжок міркувань, тим вища ймовірність накопичення помилки. ШІ не перевіряє проміжні результати так, як це робить людина, яка може "відчути", що щось пішло не так.
- Відсутність реального числового обчислення. Парадоксально, але для складних числових розрахунків мовна модель без підключеного калькулятора просто "вгадує" результат на основі патернів. Тому 17 × 23 може виявитися проблемою, а теоретична задача з символьною алгеброю — ні.
- Галюцинації. ШІ може впевнено наводити формулу, якої не існує, або посилатися на теорему, яку він "склав" сам. Це не зловмисність — просто статистична природа генерації тексту.
Що таке "галюцинації" штучного інтелекту
Галюцинації ШІ — це впевнені, граматично правильні та логічно зв'язні твердження, які є фактично хибними. Вони виникають тому, що модель оптимізована на генерацію правдоподібного тексту, а не правдивого. У математиці це особливо небезпечно, бо хибна формула може виглядати абсолютно переконливо.
Але найчастіша причина — все ж таки людська
І ось тут найцікавіше. Практика використання ШІ в навчанні показує: більшість математичних "помилок штучного інтелекту" насправді є помилками формулювання або інтерпретації з боку учня чи студента.
Подумайте про це так: якщо ви не розумієте суті задачі, то ви не можете точно її сформулювати. А якщо ви не можете точно сформулювати, то ШІ отримує розмитий запит і генерує... що? Найбільш вірогідну відповідь на найбільш вірогідне прочитання вашого запиту. Яке може не збігатися з тим, що ви насправді мали на увазі.
І на цьому проблема не закінчується. Бо далі відбувається ось що: учень отримує красиво відформатовану відповідь з формулами, поясненнями і впевненим тоном — і просто копіює її. Навіть не читаючи. Це вже не гіпотеза — це те, що вчителі та викладачі спостерігають щодня.
Приклади з реальних задач: де все йде не так
Приклад перший: задача з підручника без контексту
Типова задача з алгебри 7 класу: "Знайди значення виразу при x = -2". Учень фотографує сторінку підручника і запитує ШІ. Але на фото погано видно знак перед дробом, або умова задачі розтягнута на дві сторінки і друга не потрапила у кадр.
ШІ розв'язує задачу — але ту, яку він "побачив". Відповідь математично коректна, але не для тієї задачі, яка була задана. Учень здає. Вчитель ставить нуль. Учень обурений: "але ж ШІ так сказав".
Приклад другий: неоднозначність формулювання
Задача зі шкільного збірника: "Два потяги виїхали назустріч один одному з міст А і Б відстань між якими 360 км. Швидкість першого потяга на 20 км/год більша за швидкість другого. Через скільки годин вони зустрінуться, якщо виїхали одночасно?"
Учень вводить запит приблизно так: "два потяги їдуть назустріч 360 км один швидший на 20 зустрінуться". ШІ розуміє задачу... але без числового значення хоча б однієї швидкості задача має нескінченну кількість розв'язків. ШІ, намагаючись бути корисним, може припустити якесь конкретне значення (наприклад, 80 і 60 км/год), розв'язати і отримати 2 години. Учень здає цю відповідь. А в підручнику може бути зовсім інша пара швидкостей і зовсім інша відповідь.
Приклад третій: задача на відсотки з прихованою умовою
Задача: "Ціна товару знизилась на 20%, а потім ще на 20%. На скільки відсотків знизилась початкова ціна?"
Учень питає ШІ: "якщо ціна впала на 20 і ще на 20 скільки всього відсотків". ШІ цілком може дати відповідь "40%", бо саме так виглядає інтуїтивно правильний патерн — скласти відсотки. Але правильна відповідь 36% (бо 0.8 × 0.8 = 0.64, тобто залишилось 64%, знизилась на 36%). Учень навіть не підозрює про різницю, отримує 40%, і йде далі.
Приклад четвертий: геометрія і неповний опис
Задача з домашнього завдання: "Знайди площу трапеції, якщо одна основа 8 см, висота 5 см". Учень вводить саме це. ШІ запитує: а де друга основа? Учень не розуміє питання (або ігнорує його) і пише: "ну просто порахуй". ШІ, намагаючись завершити задачу, може або припустити значення другої основи, або застосувати формулу неправильно, або взагалі порахувати площу прямокутника. Результат — впевнена неправильна відповідь.
Дуже показово: ШІ часто попереджає про неповноту умови або неоднозначність — але учні ці попередження просто не читають. Вони шукають число. Будь-яке число.
Відповідь без розуміння — це не відповідь
Є ще одна системна проблема, про яку варто говорити окремо. ШІ дає не просто відповідь — він дає обґрунтування, покрокове рішення, пояснення. Це, здавалося б, чудово. Але якщо учень не розуміє математики на рівні, необхідному для цієї задачі, він не може оцінити якість цього пояснення. Він не знає, де ШІ міг помилитись. Він не знає, чи доречний метод, який застосував ШІ. Він просто бачить "відповідь є — здаю".
Це принципово відрізняється від ситуації, коли учень йде до репетитора чи вчителя. Живий педагог бачить учня, розуміє, де в нього прогалини, і адаптує пояснення. ШІ цього не робить — він відповідає на те, що запитали, а не на те, що насправді потрібно.
Як зробити використання ШІ в математиці корисним
- Формулюйте задачу повністю — з усіма умовами, одиницями вимірювання, обмеженнями.
- Перечитуйте відповідь ШІ повністю, включаючи застереження і уточнення.
- Перевіряйте результат підстановкою або альтернативним методом.
- Якщо ШІ запитує уточнення — це не баг, це важлива підказка, що задача сформульована неповно.
- Використовуйте ШІ як джерело пояснення методу, а не як джерело готової відповіді.
Штучний інтелект у математиці — це потужний інструмент, який, однак, не замінює розуміння. Він схожий на дуже хороший словник: можна знайти переклад слова, але якщо ти не знаєш граматики — речення все одно буде неправильним. Найцікавіше питання тут не технічне, а педагогічне: як навчити учнів використовувати ШІ так, щоб він поглиблював розуміння, а не підміняв його? Чи можливо взагалі виробити таку культуру роботи з інструментом, коли інструмент такий доступний і такий переконливий? Поділіться своїми думками — чи стикались ви з подібними ситуаціями, або може маєте свій рецепт, як навчити учнів правильно "спілкуватись" зі штучним інтелектом у математиці.
Схожі публікації
