Post Thumbnail

Автор, который когда-то проиграл битву со сложностью чисел с плавающей запятой, спустя пять лет решает взять реванш и построить собственный FPU "с нуля" в виде аппаратного ускорителя на ASIC.

В статье подробно, с шуточками и болью разбираются подводные камни стандарта IEEE 754: от +0/-0, NaN и бесконечностей до денормальных чисел, режимов округления и "неупорядоченных" сравнений.

Для своего проекта автор выбирает формат bfloat16 - без поддержки субнормалей, NaN и бесконечностей, с округлением к нулю. Проектирует конвейерный сумматор с dual-path архитектурой и умножитель, а затем дважды выпускает их в кремний на техпроцессе 130 нм через Tiny Tapeout(оч крутые ребята).

Вот это дейсвительно флоаты хард вей

Похожее

Post Thumbnail

Детектив

Детективная история про взлом колонки Исследователь обнаружил критические уяз...

Post Thumbnail

Mini Micro

Mini Micro — десктопное приложение для Windows, macOS и Linux, симулирующее ретр...

Post Thumbnail

MS-DOS

Microsoft открыла исходный код самой ранней из известных версий DOS — 86-DOS 1.0...