— розділ обчислювальної математики, який вивчає причини виникнення похибок, поширення їх при розв'язуванні задач на обчислювальних машинах та способи їх оцінювання. При дослідженні реального процесу складають його матем. Модель (див. Моделювання математичне). Похибки, які виникають внаслідок неточного математичного опису цього процесу, неточного вимірювання або обчислення параметрів моделі (тобто вихідних даних), дістали назву неусувних (спадкових) похибок (в технічній літературі їх наз. ще перехідними, або трансформованими). Такі похибки потрібно враховувати при формулюванні вимог до точності розв'язування різних задач, які базуються на цій матем. моделі. Щоб зробити матем. модель придатною для реалізації на обчислювальній машині, її замінюють деякою допоміжною матем. задачею, яка в певному розумінні близька до вихідної матем. моделі і для якої достатньо просто можна побудувати стійкий обчислювальний алгоритм. При цьому виникає похибка методу, або похибка обчислювального алгоритму. Ця похибка має важливе значення при дослідженні одержаного наближеного розв'язку та його зв'язку з розв'язком вихідної матем. задачі. При реалізації обчислювальних алгоритмів на машинах математичні операції замінюються операціями машинними. Похибка, що виникає при цьому, дістала назву обчислювальної похибки, або похибки округлення (в технічній літературі вона наз. інструментально ю). Оцінку повної похибки Δ розв'язку вихідної задачі можна одержати, якщо відомі оцінки окремих видів похибок.
Для кожної з названих похибок можна побудувати апріорні й апостеріорні похибки. Апріорні похибки оцінюються через вихідні дані, апостеріорні — через наближений розв'язок задачі або деякі ін. величини, які потребують додаткових обчислень. Для апріорних і апостеріорних похибок можна побудувати асимптотичні (знаходяться, якщо враховувати гол. порядки малих величин) або мажорантні оцінки (оцінки вигляду Δ ≤ d). Якщо для деякої задачі з даного класу досягається знак рівності, то мажорантна оцінка наз. неполіпшуваною. Мажорантні оцінки (навіть неполіпшувані), як правило, дуже завищені (в тому розумінні, що задачі, для яких Δ ≈ d, на практиці, як правило, не зустрічаються); тому велику практичну цінність мають статистичні оцінки похибки Δ: математичне сподівання М (Δ), дисперсія D (Δ) та ін. Отже, і для мажорантних, і для асимптотичних похибок доцільно знаходити як детерміновані, так і статистичні їх оцінки. В детермінованих задачах повна похибка Δ оцінюється з тією ж імовірністю, з якою задана точність вихідних даних є. В імовірнісних задачах закон розподілу Δ може істотно відрізнятись від закону розподілу є. Повна похибка Δ є важливою характеристикою обчислювального алгоритму при дослідженні його ефективності. Щоб одержати різні оцінки похибок, використовують як аналітичні викладки, так і числовий експеримент з наступною статистичною обробкою його результатів. Іноді для різних частин обчислювального алгоритму застосовують різні методи оцінки похибки.
Літ.: Крылов А. Н. Лекции о приближённых вычислениях. M., 1954; Положий Г. H. [та ін.]. Математический практикум. M., 1960; Березин И. С, Жидков H. П. Методы вычислений, т. 1. М., 1966; Енциклопедія кібернетики, т. 1—2. К., 1973; Уилкинсон Дж. Алгебраическая проблема собственных значений. Пер. с англ. М., 1970.
А. А. Скоробогатько.
