Локальные модели

Вы любите халяву?

Автор рассказывает, как настроить локальные LLM. В частности, серию Google Gemma 4. Все для агентного кодирования через VS Code Copilot и Pi, используя LM Studio и Llama.cpp для менеджмента модеоей.

А что вы хотели? С дешёвыми AI-подписоками будут закручивать гайки и локальные модели становятся практичной альтернативой. Да, они слабее флагманских облачных аналогов, но выигрывают по соотношению цена/качество, обеспечивают приватность и заставляют разработчика глубже включаться в процесс. А хорошая "обвязка", всякие lints, тесты, AGENTS.md и т.п. способны кратно повысить их точность

Готовьтесь

Новости

Post Thumbnail

Каждый байт важен

Наконец-то статья не про этих ваших агентов, а про старые добрые байты. Автор на примере показывает, насколько сильно размер и компоновка полей структуры влияют на производительность кода — даже в простом цикле O(N) разница может достигать 30 раз. Процес...

Post Thumbnail

Еще раз про LLM

Еще раз про то, как все устроено Статья - это пошаговый разбор устройства современных LLM на основе трансформеров. Все без сложной математики. Автор проведет вас от токенизации и эмбеддингов до позиционного кодирования RoPE, механизма внимания Q/K/V, multi-...

Post Thumbnail

Уровни микроархитектуры amd64

Возможно вы слышали про уровни микроархитектуры. Каждый уровень включает в себя набор расширений набора команд. Тулинг Go предоставляет доступ к настройке уровней через переменную окружения GOAMD64 Наши 64-битные процессоры Intel и AMD совершенствовались на...

Post Thumbnail

Wi-Fi данные

Не знаю зачем вам это может буть нужно, но мне всегда нравятся статьи по работе с сетью. Вот в этой статье про то, как добраться до данных Wi-Fi в macOS Apple удалила утилиту airport в macOS Sonoma 14.4, а ее замена wdutil скрывает BSSID и другие данные ка...

Post Thumbnail

Свой Max с E2E

Статья про кастомный клиент для Max с сквозным шифрованием и все это на Rust. Отличный хобби проект, я теперь тоже такое хочу

Post Thumbnail

Golang Ревью

Продолжение серии заметок о неочевидных и опасных поведениях Go, дополнение к первой части 2024 года. Автор освещает ряд проблем: - тихие целочисленные переполнения, где тип int зависит от архитектуры, что ведёт к реальным уязвимостям вроде SQL-инъекций ...

Статьи

Post Thumbnail

Playdate

Наше поколение выросло вместе с первыми консолями. Мы все с теплотой вспоминаем время, когда у нас появилась первая денди. Теперь у нас есть самые разные движки и большие мощности для игр. Но чем больше возможностей, тем сложнее начать что-то делать, сложне...

Post Thumbnail

Привет Ethernet

Если вы читаете эту статью, то есть очень большая вероятность, что прямо сейчас вы пользуетесь Ethernet соединением где-то между вашими устройствами и хостингом, на котором размещён этот блог. Семейство технологий Ethernet - это строительные блоки для современ...

Post Thumbnail

RAG в Go проекте

Одна из ключевых задач для компаний, работающих с искусственным интеллектом, - обеспечить эффективный доступ к внутренним знаниям. На первый взгляд всё просто: загрузи корпоративные документы в большую языковую модель (LLM) и дай ей генерировать ответы. Но на ...

Post Thumbnail

Пишем свой BitTorrent клиент на Go

В этом посте мы реализуем BitTorrent протокол на уровне, достаточном для скачивания образа Debian. Можете сразу посмотреть исходный код и пропустить все подробные объяснения. Можете начинать с исходного кода и потом переходить к подробным объяснениям

Инструменты

Post Thumbnail

Ziex

Ziex - это full-stack веб-фреймворк для языка Zig, ориентированный на безопасность на этапе компиляции, детерминированную производительность и простоту разработки. Фреймворк предлагает раздачу файлов, маршрутизацию, API-эндпоинты, гибридный рендеринг, WebS...

Post Thumbnail

DbGate

DbGate - это кроссплатформенный менеджер баз данных с открытым исходным кодом, поддерживающий MySQL, PostgreSQL, SQL Server, Oracle, MongoDB, Redis, SQLite и ещё более десятка СУБД. Приложение работает как десктопное, так и в виде веб-версии через Docker и...

Post Thumbnail

liftbridge

Liftbridge - это облегченный отказоустойчивый стриминговый брокер сообщений в стиле Kafka, написанный на Go и работающий поверх NATS. Решение поставляется как единый бинарник без JVM и ZooKeeper, поддерживает долговечное реплицированное хранение логов сообщени...

Post Thumbnail

z2d

z2d - это чистая 2D-графическая библиотека на языке Zig для растеризации векторных примитивов: линий и кубических кривых Безье, что делает ее пригодной для рендеринга SVG и отрисовки UI-элементов. Модель рисования вдохновлена Cairo: работа ведется через ко...