Дослідження точності обчислень з плаваючою комою для сучасних апаратних платформ

Abstract

У магістерській роботі досліджена послідовність Мюллера та збіжність комп’ютерних досліджень. Продемонстровано виникнення похибок при комп’ютерних обчисленнях нескладних виразів. Побудовано математичне обґрунтування проблеми нестійких початкових значень, коли ми наперед знаємо, число до якого має збігатись значення членів послідовності, але стандартні методи комп’ютерних обчислень дають некоректний результат.