Дизайн ИТ инфраструктури, задвижвани от изкуствен интелект, в Windows и Azure среди Вече не е само за експериментални лаборатории. Днес е много осезаемо, със зрели инструменти, високо усъвършенствани референтни архитектури и управлявани услуги, които ви позволяват да преминете от идея към производствена среда за много кратко време, като същевременно държите сигурността, управлението и разходите под контрол.
Целта вече не е просто да се „постави изкуствен интелект“ върху съществуващите системи, а изграждане на инфраструктура за данни, изчисления и сигурност необходимо, за да може изкуственият интелект да се превърне в естествена част от работните натоварвания: от бизнес приложения на Windows до нативни решения на Azure, които съчетават традиционно машинно обучение, генеративен изкуствен интелект, интелигентни агенти и усъвършенствана аналитика.
Какво имаме предвид под изкуствен интелект в съвременната ИТ инфраструктура?
Когато говорим за изкуствен интелект в Azure, имаме предвид набор от технологии, които позволяват на машините да да имитират човешките когнитивни способностианализират сложна информация, разбират естествен език, интерпретират изображения и аудио, говорят свободно или генерират изцяло ново съдържание.
На практика, ИТ инфраструктурата, задвижвана от изкуствен интелект, трябва да може да поддържа приложения, които могат например анализира огромни обеми от данни, за да създава изображения или видеоклипове, разбират и синтезират език в реално време, взаимодействат с потребителите чрез глас, генерират код, правят прогнози или обогатяват бизнес процесите с интелигентни препоръки.
За архитекта на решения предизвикателството е двойно: от една страна, разбирането на подробен преглед на изкуствения интелект и машинното обучениеОт друга страна, знанието как да се впишат подходящите услуги на Azure (машинно обучение, Azure AI, Fabric, Foundry и др.) в дизайна на работното натоварване, без да се нарушават принципите за сигурност, надеждност, производителност и оптимизация на разходите.
Принципи на архитектурата: Azure Well-Architected Framework за изкуствен интелект
Microsoft е кондензирала дългогодишен опит в Добре архитектурна рамка на AzureТова важи, с някои нюанси, и за натоварванията, свързани с изкуствен интелект и машинно обучение. Центърът за архитектура на Azure предлага примерни архитектури, подробни ръководства и базови линии, които можете почти да „копирате и поставите“, за да адаптирате към вашите сценарии, стига да се придържате към петте класически стълба: надеждност, сигурност, оптимизация на разходите, оперативно съвършенство и ефективност на производителността.
Решенията с изкуствен интелект имат специфични характеристики: модели, които са обучени и преквалифицирани, канали за данни, които никога не спират, споделени графични процесори, услуги на трети страни (като езикови модели), консумирани чрез API, и изисквания на управление на данни по-взискателни. Ето защо в рамките на добре архитектурната рамка (Well-Architected Framework) има специфични ръководства за натоварванията с изкуствен интелект, с конкретни препоръки за дизайн, сигурност, данни и наблюдаемост.
Идеята е да не започвате от нулата: можете да вземете Референтни архитектури за изкуствен интелект и машинно обучение в Azure които вече са документирани (като например тези, базирани на Foundry и Azure OpenAI) и ги адаптирайте към вашата организация, като добавите вашите мрежови, идентичностни, съответстващи и оперативни политики.
Ключови концепции на изкуствения интелект за проектиране на инфраструктури
Преди да дефинирате подмрежи, акаунти за съхранение или клъстери, е полезно да разберете как работи изкуственият интелект вътрешно. Не е нужно да сте специалист по данни, но е необходимо да разбирате основните градивни елементи, които определят техническата архитектура и зависимостите, които ще трябва да внедрите и поддържате.
Алгоритми и модели за машинно обучение
В основата на всяко решение с изкуствен интелект са алгоритми за машинно обучениеАлгоритмите са фрагменти от код, които обработват данни, откриват модели и генерират предсказващи или класификационни модели. Всеки алгоритъм е краен набор от инструкции, които машината изпълнява стъпка по стъпка, за да постигне конкретна цел: да реши дали дадено изображение съдържа куче или котка, да открие език, да преведе текст или да идентифицира аномалия в промишлен процес.
Резултатът от прилагането на тези алгоритми към обучението е модел на машинно обучение способен да обобщава наученото и да взема решения с нови данни. Изборът на „семейството“ от алгоритми (дървета, невронни мрежи, регресии, клъстеризация и др.) влияе върху изискванията за изчисления, памет, съхранение и време за обучение и следователно върху това как трябва да оразмерите инфраструктурата си в Azure.
Класическо машинно обучение
Традиционното машинно обучение разчита на алгоритми, които анализират полета с данни и се учат. модели, които след това се превръщат в прогнозиЦикълът обикновено е: обучавате модел с исторически данни, валидирате го с известни данни, измервате неговата производителност според бизнес показатели (точност, извикване, AUC и др.), коригирате хиперпараметрите и повтаряте, докато постигнете стабилен модел.
В архитектурен план това означава канали за данни за обучение и преквалификация, съхранение на набори от данни (за исторически данни, обучение, валидиране и тестване), мащабируеми изчисления (CPU и, в някои случаи, GPU) и услуги за внедряване в производство, където моделът получава нови данни и връща резултати или решения.
Дълбоко обучение и невронни мрежи
Когато говорим за дълбоко обучение, говорим за невронни мрежи с много слоеве, които Те обработват информацията йерархично.Всеки слой трансформира входните данни и ги предава на следващия, което позволява представянето на много по-сложни модели от тези, заснети с по-прости алгоритми.
Това има пряко въздействие върху инфраструктурата: моделите за дълбоко обучение често изискват големи обеми данни и интензивни изчислениячесто използвайки графични процесори или дори специализиран хардуер. В Azure това се изразява в използване на оптимизирани за изкуствен интелект размери на машини, управлявани услуги като Azure Machine Learning с клъстери за обучение или платформи като Azure Databricks с поддръжка за разпределено обучение.
Генеративен изкуствен интелект и езикови модели
Голямата скорошна революция е генеративен изкуствен интелектТези модели са обучени да създават оригинално съдържание от текст, изображения, аудио или мултимодални комбинации. С тези модели можете да ги помолите на естествен език да напишат отчет, да генерират код, да създадат кратко видео или да обяснят изображение.
В рамките на тази категория, езикови моделиТези модели са обучени върху огромни количества текст и вътрешно са представени чрез параметри (тегла), които кодират връзките между думи и понятия. Размерът на модела (измерен в милиарди параметри) определя както неговия изразителен капацитет, така и цената на изпълнението на изводи, което е от голямо значение при проектирането на мащабируеми рампи, SLA и бюджети в Azure.
Microsoft има свои собствени семейства модели, като например Фи-4При по-малките версии като Phi-4-Mini или Phi-4-Multimodal-instruct, производителността и цената са балансирани. Тези по-малки модели са по-леки, често по-лесни за интерпретация и в някои случаи могат да бъдат хоствани близо до потребителя или дори на същото устройство, което намалява латентността и подобрява поверителността.
Втори пилоти, агенти и капитани на RAG
Езиковите модели откриха нов начин за взаимодействие със системите: цифрови втори пилотиТова са асистенти, интегрирани в приложения (като Microsoft 365 Copilot), които разбират контекста и помагат при сложни задачи, обикновено чрез чат интерфейси. Основната архитектура комбинира езикови модели, конектори към бизнес данни, правила за сигурност и инструменти, които моделът може да извика.
Ключов модел за обогатяване на тези втори пилоти е генериране с подобрено възстановяване (RAG)Вместо да разчитаме единствено на „публичното“ знание, използвано за обучение на модела, добавихме слой за извличане, който търси във вътрешни източници (векторни индекси, бази данни, езера от данни) и предава тази информация на модела като контекст. Това ни позволява да поддържаме контрол върху това кои данни се използват и да стесним обхвата на отговора.
В по-напредналите архитектури се появяват следните елементи: AI агентиТези компоненти не само реагират на потребителя, но и вземат автономни решения, координират задачи и комуникират помежду си. Многоагентната архитектура разделя сложните проблеми на специализирани агенти, които си сътрудничат: някои търсят данни, други планират, а трети взаимодействат с външни API. Инструменти като Microsoft Agent Framework или работните процеси на Foundry улесняват тази оркестрация.
Изкуствен интелект и услуги за бази данни в Azure
След като концепциите са ясни, е време да ги съпоставите с конкретни услуги. Azure предлага много изчерпателен стек за данни, класически ИИ, генеративен ИИ и управление. Номерът е да го сглобите според вашия случай на употреба, без да дублирате компоненти или да създавате силози за данни.
Машинно обучение на Azure и AutoML
Машинното обучение на Azure е референтната услуга за управлявайте целия жизнен цикъл на машинното обучениеОт проучване на данни и обучение до внедряване и наблюдение. Включва уеб интерфейс, SDK и поддръжка за популярни рамки като PyTorch, TensorFlow и scikit-learn.
Сред възможностите му са AutoML, който автоматизира избора на алгоритъм, настройването на хиперпараметри и някои функции, както и вградена поддръжка за MLflow като сървър за проследяванеМожете да използвате работно пространство на Azure Machine Learning като MLflow backend, да регистрирате експерименти, модели и показатели и да използвате повторно канали за обучение, без да пренаписвате код.
По време на обучението, класическият работен процес включва етикетиране на данни, конфигуриране на алгоритъма, обучение на модела, валидиране с нови данни и, ако е необходимо, коригиране или преобучение. В производствения режим моделът оценява данните в реално време или на партиди чрез REST API, крайни точки в реално време или пакетни задачи.
Microsoft Foundry, Agent Service и инструменти за генеративен изкуствен интелект
Foundry е платформата на Azure за Създаване и внедряване на персонализирани генеративни AI приложенияТой предоставя акаунти и проекти като единици за сътрудничество, каталог от модели (включително GPT, Claude, Phi, Grok и др.), инструменти за фина настройка, RAG и оценка на качеството, както и управлявана среда за внедряване на агенти и API.
Foundry Agent Service позволява създаването на AI агенти с ниско или никакво кодиране, представени като микросървиси и свързани с базов модел, частни хранилища за знания (за RAG) и външни инструменти. Освен това, Foundry Tools улеснява интеграцията с други услуги на Azure, както и с често срещани SDK за разработка, като Visual Studio Code, GitHub и Semantic Kernel.
Важно предимство е, че можете фина настройка за адаптиране на моделите към вашите данни, постигайки отговори, по-съобразени с вашия контекст, намалявайки дължината на подканите и в много случаи намалявайки цената на токените и латентността.
Copilot Studio и Copilots в Microsoft 365 и Fabric
За сценарии, по-близки до крайния потребител, Copilot Studio ви позволява създаване на персонализирани втори пилоти които се интегрират с Microsoft 365 и други вътрешни или външни канали. Това е особено полезно, ако искате да разширите съществуващите копилоти със собствени работни потоци, бизнес правила или достъп до вътрешни системи, без да се налага да започвате от нулата.
В областта на данните, Microsoft Fabric включва специфични копилоти, които помагат за трансформирайте и анализирайте данни, създавайте отчети и визуализацииили генериране на заявки в Power BI, използвайки естествен език. Всичко това се поддържа от OneLake като унифицирано езеро с данни и споделен стек от услуги за инженерство на данни, наука за данни, разузнаване в реално време и складови услуги.
Платформи за данни и изчисления за изкуствен интелект в Azure
Никой изкуствен интелект не работи във вакуум: той се нуждае от чисти, достъпни и добре управлявани данни, както и от изчислителни платформи, способни да ги обработват в голям мащаб. В среди на Windows и Azure това се постига с комбинация от... Езера, складове, Spark, Databricks и интеграционни услуги.
Microsoft Fabric и OneLake
Microsoft Fabric действа като унифицирана цялостна платформа за данни и анализиВместо да има разпръснати източници, ETL, складове и модели, Fabric централизира съхранението в OneLake и предлага интегрирани изживявания за инженерство на данни, фабрика за данни, наука за данни, разузнаване в реално време, складове за данни и аналитични бази данни.
OneLake е логическото и унифицирано езеро с данни на организацията, изградено върху Azure Data Lake Storage. То поддържа структурирани и неструктурирани данниИзползва Delta-Parquet за таблични данни и позволява разделяне на работните области с диференцирани политики за достъп. Интегрирането с Fabric веднага елиминира голяма част от триенето при интегрирането на услуги за съхранение, изчисления и изкуствен интелект.
Spark върху Fabric, Azure Databricks и HDInsight
За големи обеми натоварвания, Spark е ключов компонент. В Fabric, Време за изпълнение на Fabric Той предоставя интегрирана Spark среда с поддръжка за Delta Lake, предварително инсталирани пакети за Java, Scala, Python и R, както и базова операционна система, оптимизирана за различни хардуерни конфигурации. Това ви позволява да изпълнявате както конвейери за инженерство на данни, така и експерименти с наука за данни в една и съща среда.
Azure Databricks добавя платформа за сътрудничество, базирана на Spark, с интегрирани работни процеси за машинно обучениеНеговата среда за машинно обучение включва библиотеки като TensorFlow, PyTorch, Keras и XGBoost, както и поддръжка за разпределено обучение с Horovod. Също така включва Mosaic AI Vector Search, което позволява съхраняване и извличане на вграждания за RAG сценарии, препоръки и търсения на сходство.
Ако предпочитате по-класически подход, Spark on Azure HDInsight предоставя управлявани клъстери, свързани с Azure Storage и Data Lake Storage, с библиотеката SynapseML за разпределено машинно обучение, невронни мрежи и мащабни AI услуги.
Data Lake Storage и други хранилища за данни
За физическо съхранение, Azure Data Lake Storage действа като централизирано хранилище на сурови данниПоддържа както структурирани, така и неструктурирани данни. Предлага семантика на файловата система, сигурност на ниво файл, масивна мащабируемост и използва надеждността на Azure Blob Storage (включително многопластово съхранение, висока достъпност, възстановяване след бедствия и...). резервни копия).
В съвременните архитектури на изкуствен интелект, Data Lake Storage служи като основа за езера от корпоративни данни който може да обработва петабайти информация със стотици гигабита пропускателна способност групови LAN трансфери, захранвайки както модели за машинно обучение, така и векторни търсачки и решения за усъвършенстван анализ.
Обработка и интеграция на данни за изкуствен интелект
Качеството на вашите модели ще зависи пряко от качеството на вашите данни. Ето защо, когато създавате ИТ инфраструктури, задвижвани от изкуствен интелект, е важно да настроите солидни канали за поглъщане, почистване и трансформация които захранват както обучителната, така и инферентната среда.
Fabric Data Factory
Фабриката за данни Fabric ви позволява да организирате мащабни потоци от данни, с код и нискокодови конвейериМожете да премествате данни от бази данни, складове, езера или потоци в реално време, да прилагате повече от 300 трансформации в потоците от данни и да автоматизирате периодични или стрийминг зареждания.
Тази услуга е особено добре позиционирана, когато вашата стратегия включва консолидиране на всичко в Fabric и OneLake, защото намалява ръчното лепило между произход, дестинации и модели с изкуствен интелект, интегрирайки се с екосистемата за сигурност и управление на организацията.
Azure Databricks за инженерство на функции
За сценарии, където се изисква по-разширено инженерство на функции, Azure Databricks предлага ML-ориентирани канали за данниМожете да приемате сурови данни, да изграждате таблици с характеристики, да обучавате модели и да организирате пакетни изводи, като същевременно управлявате метаданните на характеристиките в каталога на Unity, така че бъдещите резултати да могат автоматично да извличат необходимите входни стойности.
Този подход помага да се избегнат типични грешки, като например Несъответствие между данните за обучение и производствените данниТова също значително опростява логиката за екипите, използващи модела, тъй като не е нужно да се притесняват за ръчно реконструиране на характеристики.
Конектори за Azure Data Factory и Synapse
Когато данните ви се намират в множество системи (локални, SaaS, други облаци), Azure Data Factory и Azure Synapse Analytics предлагат конвейери. конектори за огромна гама от съхранение и форматиТова ви позволява да копирате, трансформирате, търсите, четете метаданни или изтривате данни в хетерогенни източници, без да е необходимо да създавате персонализирани конектори.
При проектирането на инфраструктурата е добра идея тези интеграции да се централизират в една или повече добре управлявани центрове за данни, от който се захранват както езерата, така и оптимизираните с изкуствен интелект складове, което намалява дублирането на тръбопроводи и подобрява одитируемостта.
Персонализиран изкуствен интелект в Azure: Отвъд общия модел
Предварително обучените модели обхващат много общи случаи на употреба, но бизнесът получава най-голяма стойност, когато Те персонализират изкуствения интелект според своята област.Специфичен речник, персонализирани документи, много специфични бизнес правила, комбинирани езици и др. Azure предлага много широка гама от услуги за това.
Машинно обучение в Azure: Обучение, AutoML и MLOps
С машинното обучение на Azure можете да обучавате всичко - от прости модели до сложни дълбоки мрежи, използвайки мащабируеми изчислителни клъстери и графични процесориТой предлага инструменти за избор на алгоритми, автоматично оптимизиране на хиперпараметри, управление на версирани набори от данни и внедряване на модели към крайни точки за извод.
Освен това, той интегрира функциите на Отговорен AI Това ви позволява да откривате отклонения, да анализирате грешки и да преглеждате обяснимостта – което е от решаващо значение, когато вашите модели влияят на чувствителни решения. Също така ви позволява да организирате екипи в хъбове и работни пространства, които споделят ресурси, сигурност и свързаност, улеснявайки централизираното управление на ИТ.
Персонализирани услуги с изкуствен интелект: глас, превод и документи
В областта на когнитивния изкуствен интелект, Azure предоставя персонализируеми услуги, като например Персонализиран глас, който подобрява разпознаването на език в много специфични области, като предоставя аудио и текстови примери; или Custom Translator, който ви позволява да обучавате системи за невронни машинни преводи, адаптирани към вашата корпоративна терминология.
За документи, Azure Document Intelligence предлага предварително обучени модели и персонализирани модели Те са способни да идентифицират типове документи, да извличат полета и да ги класифицират, връщайки информацията във формат JSON, готова за използване в бизнес приложения. Можете дори да комбинирате множество модели, за да обхванете различни формати в рамките на един и същ процес.
Друга полезна част е „Разбиране на съдържанието“ с нейното персонализиран анализаторкоето ви позволява да дефинирате правила за извличане и шаблони на обекти върху документи, изображения, аудио или видео, получавайки структуриран резултат, адаптиран към вашите нужди.
Езици за програмиране за изкуствен интелект в Azure
На ниво разработка водещите езици в областта на изкуствения интелект остават Python и RPython доминира благодарение на своята екосистема от библиотеки за машинно обучение, дълбоко обучение и наука за данни (pandas, NumPy, scikit-learn, PyTorch, TensorFlow и др.) и се интегрира естествено с услугите на Azure.
R, от друга страна, е високо ценен в областта на напредналата статистика и академичния анализ и има поддръжка в Azure Machine Learning за изпълнение на скриптове, тетрадки и интерактивни работни потоци. И в двата случая можете да се възползвате от... управлявани среди за изпълнение които опростяват инсталирането на зависимости и интеграцията с услуги като хранилища, бази данни или опашки за съобщения.
Референтни архитектури на изкуствен интелект в Azure: примерът Foundry + Azure OpenAI
За да осъществи всички тези концепции, Microsoft публикува високо детайлни референтни архитектуриПредставителен пример е базираната на Foundry чат архитектура, разположена в зона за целеви приложения на Azure, предназначена за разговорни приложения, които използват OpenAI GPT модели, обогатени с бизнес данни.
В тази архитектура потребителският поток навлиза през Приложен шлюз с WAF Защитено от Azure DDoS Protection, във виртуална мрежа с частен DNS. Достъпът до услуги като Azure App Service, Key Vault и Storage, които хостват клиентското приложение и управляват тайните, се осъществява чрез частни крайни точки.
Мрежата е организирана в няколко специализирани подмрежи (картографиране на Топология на локалната мрежа (LAN)Това включва: интеграция с App Service, частни крайни точки, интеграция с Foundry, подмрежи за агенти на Azure AI, Azure Bastion, полета за преход, агенти за изграждане и защитна стена Azure, която филтрира изходящия интернет трафик. Услуги като [списък с услуги] са разположени в тези подмрежи. Azure Cosmos DB, Azure AI Search, хранилища за знания и място за съхранениевсички свързани чрез частни крайни точки, за да се сведе до минимум публичното излагане.
В най-дясната част на диаграмата, Foundry е представен от акаунт и проект; Управлявани самоличности в Azure Те свързват услугата Foundry agent с проекта, който от своя страна осъществява достъп до Azure OpenAI и други ресурси от данни. Диаграмата номерира логическите стъпки, които следва заявката: от пристигането на шлюза до заявките към моделите и извличането на контекстуална информация, като трафикът се поддържа във виртуалната мрежа и съгласно дефинираните политики за сигурност по всяко време.
Windows, Azure и новият модел за разработка, задвижван от изкуствен интелект
В екосистемата на Microsoft, изкуственият интелект не живее само в облака: Windows и потребителски приложения Те също се възползват от тези възможности чрез копилоти и плъгини.
Microsoft постепенно интегрира OpenAI и ChatGPT-базирани технологии в Bing, Edge, Dynamics 365, Microsoft 365 и, разбира се, Azure. Визията е разработчиците... не е нужно да изграждат свои собствени модели от нулатаа по-скоро да се използва модел на данни и изкуствен интелект като нов инфраструктурен слой, върху който да се разработват приложения по-бързо.
Концепцията за плъгини в стил Copilot позволява създаването на разширения, които свързват бизнес приложения, облачни услуги и локални системи с тези разговорни модели, така че Windows и Azure споделят една и съща AI структура и да се възползвате от еднакво изживяване в целия стек.
Управление, сигурност и непрекъсната оптимизация
Създаването на инфраструктурата е само част от работата; другата половина е поддържане на инфраструктурата Сигурно, ефикасно и съобразено с дългосрочните бизнес цели. Тук се намесват инструменти като Azure Advisor, Well-Architected Review и проактивните услуги за поддръжка на Microsoft.
Azure Advisor анализира вече внедрените ви работни натоварвания, открива възможности за подобрение в петте стълба на добре архитектурната рамка и приоритизиране на практически приложими препоръкиДобре структурираният преглед добавя по-структурирана оценка с подбрани препоръки, които да насочат необходимите корекции.
Ако имате нужда от по-добра поддръжка, Microsoft Unified предлага проактивни услуги и достъп до експерти които помагат за поддържането, интегрирането и оптимизирането на вашето решение в Azure с персонализирани насоки, особено полезни в сложни хибридни среди или когато внедрявате мащабни генеративни AI архитектури.
Обучение и внедряване: подготовка на екипа за ИИ в Azure
Технологията е готова, но ако оборудването не е, инфраструктурата няма да се внедри; създаването на тестова лаборатория улеснява приемането ѝ. Ето защо инвестирането в нея е толкова важно. Специално обучение по изкуствен интелект в Azureособено за архитектура, разработка, операции и профили на данни.
Microsoft предлага курсове, започващи от самите основи, като например Въведение в изкуствения интелект в AzureОт напреднали сертификати като Azure AI Engineer Associate, който се фокусира върху проектирането и внедряването на AI решения, използващи услугите на платформата, до курсове по Foundry, Azure Machine Learning, Fabric и изграждане на готови за производство AI инфраструктури с контроли за сигурност, мрежова изолация, управлявани самоличности и управление на контейнери.
Истинското приемане се ускорява, когато комбинирате това обучение с добре дефинирани пилотни проектикъдето екипът може да се учи чрез практика: внедряване на първа корпоративна RAG, вътрешен ко-пилот или автоматична система за класификация на документи с Document Intelligence и Content Understanding.
В крайна сметка, изграждането на ИТ инфраструктури, задвижвани от изкуствен интелект, в среди на Windows и Azure се състои в обмислено сглобяване на всички тези части: езикови модели, услуги за машинно обучение, платформи за данни като Fabric и OneLake, инструменти за оркестрация като Foundry и Copilot Studio и рамки за управление като Azure Well-Architected Framework. Когато данните, изчисленията, сигурността и екипите са съгласувани, изкуственият интелект престава да бъде изолиран експеримент и се превръща в... структурен компонент на вашата технологична архитектура, способен да се развива с темпото, от което се нуждае вашият бизнес.
