Обновления Azure: LLMOPS; концентрироваться; Менеджер энергетических данных

Руководители Microsoft подчеркнули различные аспекты видения компании в области искусственного интеллекта в серии сообщений в блогах в последние дни. CVP Джон Монтгомери обсудил возможность создания Повторяющееся значение с LLMOPS. Операции с большими языковыми моделями, или сокращенно LLMOPS, основаны на таких возможностях, как Rapid Streams от Azure AI, о которых было объявлено на мероприятии Build в этом году. В сентябре Microsoft выпустила общедоступную предварительную версию кода с приоритетом потока с помощью Azure AI Software Development Kit, VS Code и интерфейса командной строки.

«В отличие от традиционных моделей машинного обучения, которые часто имеют более предсказуемые результаты, программы MBA могут быть недетерминированными, что вынуждает нас применять другой способ работы с ними», — написал Монтгомери. «Сегодняшний специалист по данным может использоваться для управления обучением и тестированием данных. », определите веса и используйте такие инструменты, как панель мониторинга «Ответственный ИИ» в Машинном обучении Azure, для выявления отклонений и мониторинга модели в рабочей среде».

По словам Монтгомери, процесс создания LLMOPS включает три этапа. На этапе запуска клиенты могут создать индекс поиска AI для данных и добавить эту информацию в такую ​​форму, как GPT-4. Далее следует процесс оптимизации, в ходе которого клиент повторяет и улучшает поток. Наконец, наступает этап производства с использованием искусственного интеллекта Azure для мониторинга производительности.

Энди Бейтман, старший менеджер по маркетингу продуктов, обнаружил ценность Заявления о внедрении искусственного интеллекта, что помогает поддержать намерения и ожидания пользователей от искусственного интеллекта. Объясняя ценность подсказок, Питтман отметил, что клиенты должны начинать с простого открытого вопроса, устанавливать границы, обеспечивать контекст и повторять.