НВИДИА
Microsoft и NVIDIA анонсировали обновления, которые упростят запуск и настройку моделей искусственного интеллекта на ПК с Windows.
Что известно
Microsoft представила Windows AI Studio — центр для доступа к готовым моделям ИИ и их настройки. Разработчики смогут получить доступ к инструментам Azure AI Studio, а также настраивать и тестировать модели в соответствии с потребностями своего проекта.
В то же время NVIDIA анонсировала обновление TensorRT-LLM, которое оптимизирует выполнение больших языковых моделей на графическом процессоре. Теперь этот инструмент будет работать на видеокартах GeForce RTX 30 и 40. Также будет поддержка API чата OpenAI.
Это позволит разработчикам запускать модели ИИ локально на своих ПК, не прибегая к облаку. По мнению компаний, такие улучшения упростят создание приложений искусственного интеллекта для Windows.