Компьютерные новости

AnythingLLM: ИИ-приложение лучше всего работает на ПК с NVIDIA RTX благодаря ускорению NIM

Настольное приложение AnythingLLM, позволяющее локально использовать большие языковые модели (LLM) для конфиденциальной работы с искусственным интеллектом, теперь демонстрирует значительно более высокую производительность на ПК с видеокартами NVIDIA RTX благодаря интеграции микросервисов NVIDIA NIM.

Большие языковые модели (LLM), обученные на огромных объемах данных, генерируют высококачественный контент и являются основой для многих популярных ИИ-приложений. Один из самых доступных способов работы с LLM – это AnythingLLM, настольное приложение, созданное для энтузиастов, которые хотят иметь универсального помощника ИИ, ориентированного на конфиденциальность, непосредственно на своём ПК. Благодаря новой поддержке микросервисов NVIDIA NIM на графических процессорах NVIDIA GeForce RTX и NVIDIA RTX PRO, пользователи AnythingLLM теперь могут получить ещё более быструю производительность для более отзывчивых локальных рабочих процессов искусственного интеллекта.

Что такое AnythingLLM?

AnythingLLM – это универсальное ИИ-приложение, которое позволяет пользователям запускать локальные LLM, системы генерации с дополненным поиском (RAG) и агентные инструменты. 

Оно действует как мост между LLM и данными пользователя, а также предоставляет доступ к "навыкам", что упрощает и повышает эффективность использования LLM для конкретных задач, в частности:

• Ответы на вопросы: Получение ответов от LLM (например, Llama и DeepSeek R1).
• Запросы персональных данных: Конфиденциальная работа с контентом, включая PDF, файлы Word, базы кода и т. д., с помощью RAG.
• Резюмирование документов: Создание кратких выдержек из длинных текстов.
• Анализ данных: Извлечение аналитических данных путём загрузки файлов и запросов.
• Агентные действия: Динамическое исследование контента, запуск генеративных инструментов и действий на основе подсказок пользователя.

AnythingLLM может подключаться к широкому спектру локальных LLM с открытым исходным кодом, а также к более крупным облачным LLM (OpenAI, Microsoft, Anthropic). Приложение также предоставляет доступ к навыкам для расширения возможностей агентного ИИ через свой центр сообщества.

Благодаря установке одним щелчком мыши и интуитивно понятному интерфейсу, AnythingLLM является отличным вариантом для энтузиастов ИИ, особенно тех, кто имеет системы с графическими процессорами GeForce RTX и NVIDIA RTX PRO.

RTX обеспечивает ускорение AnythingLLM

Графические процессоры GeForce RTX и NVIDIA RTX PRO предлагают значительное повышение производительности для запуска LLM и агентов в AnythingLLM. Они ускоряют логический вывод благодаря тензорным ядрам, разработанным для ИИ. 

 

AnythingLLM запускает LLM с Ollama для выполнения на устройстве, ускоренного благодаря тензорным библиотекам Llama.cpp и ggml. Ollama, Llama.cpp и GGML оптимизированы для графических процессоров NVIDIA RTX и тензорных ядер пятого поколения. 

4

Например, производительность на GeForce RTX 5090 в 2,4 раза выше, чем у Apple M3 Ultra (на Llama 3.1 8B и DeepSeek R1 8B).

AnythingLLM — теперь с NVIDIA NIM

AnythingLLM недавно добавила поддержку микросервисов NVIDIA NIM — оптимизированных для производительности, предварительно упакованных генеративных моделей искусственного интеллекта, которые упрощают начало работы с ИИ на ПК с RTX AI через оптимизированный API.

NVIDIA NIM отлично подходят для разработчиков, которые ищут быстрый способ тестирования моделей генеративного ИИ. Вместо того чтобы искать нужную модель, загружать все файлы и решать, как всё подключить, NIM предоставляют единый контейнер, который содержит всё необходимое. Они могут работать как в облаке, так и на ПК, что упрощает создание прототипов локально, а затем развёртывание в облаке.

Предлагая NIM в удобном интерфейсе AnythingLLM, пользователи получают быстрый способ тестировать и экспериментировать с ними, а затем интегрировать их в свои рабочие процессы или использовать с чертежами NVIDIA AI, документацией и образцами кода NIM для непосредственного подключения к своим приложениям или проектам.

techpowerup.com
Павлик Александр

Apple готовит большие изменения: ОС перейдут на годовую маркировку и обновят интерфейс

Apple обновит систему наименования всех своих операционных систем, переходя на годовую маркировку, отражающую следующий год выпуска, и представит новый унифицированный дизайн интерфейса под кодовым названием "Solarium".

На конференции WWDC 2025 Apple внесёт существенные изменения в название своего программного обеспечения. Компания заменит последовательные номера версий названиями, основанными на годе, следующем за каждым выпуском. Эта корректировка будет применяться ко всем операционным системам Apple, включая iOS, iPadOS, macOS, watchOS, tvOS и visionOS.

Согласно новому плану, iOS 18 будет переименована в «iOS 26», iPadOS 19 станет «iPadOS 26», macOS 16 примет «macOS 26», а watchOS 13 изменится на «watchOS 26». Операционная система Apple TV будет отображаться как «tvOS 26», а гарнитура Vision Pro будет работать под управлением «visionOS 26». Выбрав следующий год вместо текущего, Apple намерена согласовать свою систему наименования со своим обычным осенним графиком выпусков. Apple надеется, что это изменение упростит её экосистему и поможет пользователям и разработчикам распознать связь между обновлениями на разных устройствах.

"Solarium": Новый дизайн и функции

Одновременно Apple планирует представить обновлённый дизайн пользовательского интерфейса под внутренним названием «Solarium». Все платформы будут иметь более яркую палитру и более согласованные элементы макета, что сделает переходы между iPhone, iPad, Mac и другими устройствами более естественными.

Среди новых функций, ожидаемых этой осенью, заявлены:

• Режим оптимизации батареи на базе искусственного интеллекта.
• Интеллектуальный помощник по здоровью.
• Возможности перевода в реальном времени для AirPods.
• Инновационные параметры ввода, такие как двунаправленная арабско-английская клавиатура и инструмент цифровой каллиграфии для Apple Pencil.

Эта стратегия наименования перекликается с предыдущим выбором Samsung и Microsoft. В 2020 году Samsung назвала свою линейку Galaxy S годом выпуска, тогда как в 1990-х годах Microsoft использовала календарные годы для Windows 95 и Windows 98. Подход Apple отличается тем, что она называет программное обеспечение на следующий год, подобно тому, как автопроизводители рекламируют свои будущие модели, и может переноситься в будущие релизы как «27» и далее.

techpowerup.com
Павлик Александр

Intel выпустила бета-драйвер Arc GPU 32.0.101.6795: поддержка новых игр и улучшение производительности

Intel выпустила новый бета-драйвер Arc Graphics 32.0.101.6795, который обеспечивает поддержку новых игр и содержит оптимизации производительности для видеокарт серий Intel Arc B-series, A-series и интегрированных графических процессоров Intel Arc в процессорах Intel Core Ultra.

Основные игровые обновления:

Поддержка Intel Game On Driver для:

• Dune: Awakening
• Elden Ring Nightreign
• F1 25

Улучшения игровой производительности на графических процессорах Intel Arc B-series (по сравнению с драйвером 32.0.101.6793):

• Monster Hunter Wilds (DX12):
• До 9% среднего прироста FPS при разрешении 1080p
• До 6% среднего прироста FPS при разрешении 1440p

Известные проблемы:

Графические продукты Intel Arc B-Series – Известные проблемы:

• Call of Duty: Black Ops 6 (DX12): Возможно мерцание изображения в определенных сценах во время игрового процесса.
• Returnal (DX12): Возможно падение приложения во время игрового процесса с включенной трассировкой лучей.
• Call of Duty: Warzone 2.0 (DX12): Возможны искажения на водных участках в определенных сценариях.
• MLPerf: Возможны периодические ошибки на системах с несколькими GPU; временным решением является отключение интегрированного GPU.
• SPECapc for Maya 2024: Возможно периодическое зависание приложения во время бенчмаркинга.
• PugetBench for DaVinci Resolve Studio V19: Возможно падение при запуске бенчмарка.

Графические продукты Intel Arc A-Series – Известные проблемы:

• Overwatch 2 (DX12): Возможно падение при запуске с высокими или ультра графическими настройками.
• Returnal (DX12): Возможно падение во время игрового процесса с включенной трассировкой лучей.
• Marvel’s Spider-Man 2 (DX12): Возможно падение с включенными трассировкой лучей и XeSS.
• PugetBench for DaVinci Resolve Studio V19: Возможно падение при запуске бенчмарка.

Intel Core Ultra Series 1 (со встроенными Intel Arc GPUs) – Известные проблемы:

• PugetBench for DaVinci Resolve Studio V19: Возможны периодические ошибки с расширенным пресетом бенчмарка.

Intel Core Ultra Series 2 (со встроенными Intel Arc GPUs) – Известные проблемы:

• Blender 4.4: Может не завершить рендеринг с использованием движка Cycles.
• Adobe Premiere Pro: Возможно периодическое падение приложения.
• PugetBench for DaVinci Resolve Studio V19: Возможны периодические ошибки с расширенным пресетом бенчмарка.

Программное обеспечение Intel Graphics – Известные проблемы:

• Программное обеспечение Intel Graphics может периодически падать при навигации между страницами или диалоговыми окнами (ожидается обновление WinAppSDK 1.7).
• Может падать при использовании "Сбросить все настройки" в Windows 10.
• Первая перестановка метрик в окне "Выбрать метрики" может вызвать одноразовое падение.
• Ограничитель FPS может не работать с включенным VSync и режимом низкой задержки.
• Элементы управления профилем могут не всегда переопределять глобальные элементы управления.
• Масштабирование дисплея при неродных разрешениях может привести к нежелательному масштабированию.
• Может падать при навигации между профилями приложений на странице профилей.

Получить дополнительную информацию и скачать драйвер можно по ссылке с официальной страницы сайта Intel.

videocardz.com
Павлик Александр

Intel разрабатывает ИИ-тренера для геймеров — он помогает в прохождении игр

Ранее компания NVIDIA представила Project G-Assist — компактную ИИ-модель, работающую локально на ПК и призванную помогать игрокам в различных игровых ситуациях. Эта модель способна подсказывать, как пройти квест, оптимизировать настройки игры и конфигурацию оборудования, взаимодействуя с пользователем через оверлей в приложении NVIDIA App. Как выяснилось, Intel также работает над аналогичным цифровым помощником, пусть и с более узкой специализацией.

На текущий момент AI Gaming Coach от Intel поддерживает лишь ограниченное число игр. В рамках презентации компания продемонстрировала его работу в проекте Black Myth: Wukong. Существенным отличием решения Intel стало то, что для функционирования ИИ-ассистента необходима интеграция со стороны разработчиков игр, а значит — поддержка будет доступна далеко не во всех проектах.

Технология разработана с учетом того, чтобы не мешать непосредственному игровому процессу. Например, игровой ИИ-тренер даст советы о том, как пройти тот или иной квест, или победить босса в игре до того, как к выполнению этих задач приступит игрок. Он также подсказывает, что на той или иной локации находятся предметы, на которые стоит обратить внимание перед походом к боссу. Перед битвой с тем или иным боссом ИИ-тренер может запустить короткое видео, показывающее особенности атак противника и подсказать нужную стратегию к победе над ним. В случае поражения ИИ-тренер подбодрит игрока и скажет, что у него все получится в следующий раз.

Любопытно, что для работы AI Gaming Coach не требуется дискретная видеокарта. Демонстрация велась на ноутбуке с GeForce RTX 5060, но технология использовала встроенные NPU и iGPU центрального процессора — вероятно, из-за недостаточной мощности одного лишь NPU. Таким образом, Intel предложила практическое применение для ноутбуков, оснащенных и дискретной графикой, и процессорами с iGPU и NPU. Однако компания пока не раскрывает ни размер используемой ИИ-модели, ни дополнительные функции ассистента.

 

На данном этапе Project G-Assist от NVIDIA выглядит как более продвинутый продукт — он не только помогает в игровом процессе, но и предлагает шаги по оптимизации железа и настроек. Решение Intel, как следует из названия, сосредоточено именно на тренерской роли. Пока неизвестно, какие платформы получат поддержку AI Gaming Coach, и каковы будут его минимальные системные требования. Также Intel не называет сроки появления технологии в открытом доступе.

videocardz.com
Павлик Александр

AMD обновила ROCm для расширенной поддержки Ryzen AI Max и Radeon RX 9000 Series

На выставке Computex 2025 компания AMD представила обновление своей платформы Radeon Open Compute (ROCm), расширив поддержку аппаратного ускорения для клиентских процессоров Ryzen AI Max 300 "Strix Halo" и игровых графических процессоров серии Radeon RX 9000.

Для процессоров Ryzen AI Max 300 "Strix Halo" это обновление разблокирует вычислительную мощность 40 вычислительных блоков RDNA 3.5 с их 80 ускорителями искусственного интеллекта и 2560 потоковыми процессорами. Кроме того, будет задействована специализированная для искусственного интеллекта архитектура ISA с 16 ядрами процессора "Zen 5", включая их полноценный 512-битный FPU для выполнения инструкций AVX512. Для серии Radeon RX 9000 обновление ROCm будет означать использование до 64 вычислительных блоков RDNA 4 со 128 ускорителями искусственного интеллекта и 4096 потоковыми процессорами.

AMD также объявила об обновлении продуктового стека ROCm, добавив поддержку для различных основных дистрибутивов Linux, включая OpenSuSE (который уже доступен). Поддержка для Ubuntu и Red Hat EPEL появится во второй половине 2025 года. Наконец, ROCm получает полную поддержку Windows, включая Pytorch и ONNX-EP. Предварительный просмотр поддержки Pytorch ожидается в третьем квартале 2025 года, тогда как предварительный просмотр ONNX-EP может появиться уже в июле 2025 года.

techpowerup.com
Павлик Александр

Выпущены драйверы NVIDIA GeForce 576.52 WHQL

NVIDIA выпустила последнюю версию своих драйверов GeForce Game Ready – GeForce 576.52 WHQL. Они добавляют поддержку графических процессоров GeForce RTX 5060 для настольных компьютеров и ноутбуков.

Они обеспечивают лучший игровой опыт для новейших игр, поддерживающих технологию DLSS 4, включая F1 25 и Dune: Awakening, а также полное обновление трассировки лучей для NARAKA: BLADEPOINT.

Исправленные игровые ошибки:

• [F1 23/F1 24] Игра зависает в конце гонки.
• [Diablo II Resurrected] В игре отображается черный экран с повреждением при использовании DLSS.
• [SCUM] Игра может аварийно завершить работу после обновления драйверов до R575.
• Кэш шейдерного диска не будет создан в некоторых играх, если имя пользователя ОС содержит символы Юникода.

Исправленные общие ошибки:

• [Lumion 12] Отсутствуют определенные компоненты пользовательского интерфейса.
• [Varjo XR3] Шлем Varjo XR3 не работает на видеокартах серии RTX 50.

Известные проблемы

• Мерцание/повреждение вокруг источников света в Ghost of Tsushima Directors Cut.
• Cyberpunk 2077 аварийно завершит работу при использовании фоторежима для создания снимка экрана с включенной трассировкой пути.
• EA Sports FC 25 может зависать во время игры.
• [Forza Horizon 5] Игра может зависать после длительного игрового процесса.

Получить дополнительную информацию и загрузить драйвер можно по ссылке с официальной страницы сайта NVIDIA.

techpowerup.com
Павлик Александр

Intel выпустила бета-драйверы Arc GPU 101.6793

Intel выпустила новую бета-версию драйверов графики Arc GPU — версия 101.6793 Beta. Эти драйверы предназначены для видеокарт Intel Arc и интегрированной графики процессоров Intel Core Ultra серий 1 и 2. Обновление включает оптимизации для игр "DOOM: The Dark Ages" и "Japanese Drift Master".

В новом выпуске исправлено несколько проблем. В частности, устранено искажение цветов в "The Last of Us Part I" (DX12) на серии Arc B, мерцание синих артефактов в "Doom Eternal" (VK) с трассировкой лучей на серии Arc A, и мерцание черных квадратов в "The Last of Us Part II" (DX12) на серии Arc A и Core Ultra 2. Также отмечается наличие списка известных открытых проблем с этим драйвером.

Игры с оптимизацией:

• DOOM: The Dark Ages
• Japanese Drift Master

Исправленные проблемы:

• Искажение цветов в The Last of Us Part I (DX12) на Arc B-Series.
• Мерцание синих артефактов в Doom Eternal (VK) с трассировкой лучей на Arc A-Series.
• Мерцание черных квадратов в The Last of Us Part II (DX12) на Arc A-Series и Core Ultra Series 2.

Известные открытые проблемы:

Intel Arc B-Series Graphics Products:

• Call of Duty: Black Ops 6 (DX12) может демонстрировать мерцание/искажение в определенных сценах во время игрового процесса.
• Returnal (DX12) может приводить к сбою приложения во время игрового процесса при включенных настройках трассировки лучей.
• Call of Duty: Warzone 2.0 (DX12) может демонстрировать искажения на водных участках в определенных сценариях.
• MLPerf может демонстрировать периодические ошибки при работе на многопроцессорных системных конфигурациях. В качестве временного решения рекомендуется отключить встроенный GPU.
• SPECapc for Maya 2024 может испытывать периодическое зависание приложения во время бенчмарка.
• PugetBench for Davinci Resolve Studio V19 может приводить к сбою приложения во время выполнения бенчмарка.

Intel Arc A-Series Graphics Products:

• Returnal (DX12) может приводить к сбою приложения во время игрового процесса при включенных настройках трассировки лучей.
• Marvel's Spider-Man 2 (DX12) может испытывать сбой приложения при включенных трассировке лучей и XeSS.
• PugetBench for Davinci Resolve Studio V19 может приводить к сбою приложения во время выполнения бенчмарка.

Intel Core Ultra Series 1 with built-in Intel Arc GPUs:

• PugetBench for Davinci Resolve Studio V19 может демонстрировать ошибки периодически с пресетом бенчмарка, установленным на Extended.

Intel Core Ultra Series 2 with built-in Intel Arc GPUs:

• Adobe Premiere Pro может испытывать периодический сбой приложения.
• PugetBench for Davinci Resolve Studio V19 может демонстрировать ошибки периодически с пресетом бенчмарка, установленным на Extended.

Intel Graphics Software:

• Intel Graphics Software может испытывать очень периодический сбой приложения при навигации по страницам или диалоговым окнам из-за проблемы базового фреймворка. Исправление будет доступно в IGS, как только WinAppSDK 1.7 станет доступен для обновления. В качестве временного решения приложение можно перезапустить без проблем.
• При использовании опции settings, preferences, reset all settings в Windows 10 приложение может испытывать периодический сбой.
• Настройки можно сбросить с отдельных страниц без проблем.
• Intel Graphics Software иногда может испытывать единичный сбой приложения при первом переупорядочивании метрик в окне выбора метрик. Последующее использование не будет затронуто этим сбоем снова.
• Ограничитель FPS может не ограничивать FPS с включенными VSync и Low Latency Mode.
• Управление профилями не всегда может заменять глобальное управление.
• Масштабирование отображения при неродных разрешениях панели может приводить к непреднамеренному масштабированию.
• Intel Graphics Software может испытывать сбой приложения при навигации между профилями приложений на странице профилей.

Получить дополнительную информацию и скачать драйвер можно по ссылке с официальной страницы сайта Intel.

techpowerup.com
Павлик Александр

NVIDIA выпустила драйверы GeForce 576.40 WHQL Game Ready

NVIDIA выпустила последнюю версию своих драйверов GeForce Game Ready — версия 576.40 WHQL. Эти драйверы включают оптимизации для игр "DOOM: The Dark Ages" и "New World: Aeternum".

Обновление также добавляет поддержку G-SYNC для почти десятка новых моделей мониторов. Был исправлен ряд игровых ошибок, включая случайные проблемы стабильности в игре "Monster Hunter Wilds". Также решена проблема мерцания теней в "Dead Space Remake" на видеокартах серии RTX 50.

Среди исправленных общих ошибок – некорректная насыщенность цветов на видеокартах серии RTX 50 при игре в разрешении ниже родного разрешения монитора. Решена проблема черного экрана при загрузке на некоторых мониторах ASUS в сочетании с RTX 50-й серии. Также исправлено небольшое заикание на определенных телевизорах LG на низких частотах обновления при включенном G-SYNC. Ниже представлены списки новых поддерживаемых мониторов, исправленных и известных проблем.

Поддержка G-SYNC для мониторов:

• Acer X32 V5
• AOC 25G42E
• AOC 24G42HE
• AOC 25G4SRE
• AOC Q27G40SE
• I-O DATA GDQ271JAQ
• Dell AW2725D

Исправленные игровые ошибки:

• [Monster Hunter Wilds] Случайные проблемы стабильности
• [RTX 50 series] Мерцание теней в Dead Space Remake

Исправленные общие ошибки:

• [RTX 50 series] Некорректная насыщенность цветов в играх при разрешении ниже родного
• [RTX 50 series] Мониторы ASUS PG32UQXR/ASUS ROG PG248QP/ASUS ROG PG32UCDM могут загружаться с черным экраном
• Незначительное заикание на определенных телевизорах LG на низких частотах обновления при включенном G-SYNC

Известные открытые проблемы:

• Мерцание/искажения вокруг источников света в Ghost of Tsushima Directors Cut
• Cyberpunk 2077 вылетает при использовании режима фото для снимка экрана с включенной трассировкой пути
• F1 23/F1 24 вылетает в конце гонки
• EA Sports FC 25 может вылетать во время игрового процесса

Получить дополнительную информацию и скачать драйвер можно по ссылке с официальной страницы сайта NVIDIA.

techpowerup.com
Павлик Александр