Criando experiências de IA generativas com o Microsoft Cloud: um guia para ISVs

Bem-vindo ao seu guia para criar experiências exclusivas de IA Generativa (GenAI) com o Microsoft Cloud. Como um ISV (fornecedor independente de software), você está em uma posição privilegiada para aproveitar o poder do GenAI para inovar e fornecer soluções cativantes para seus clientes.

O que é o Microsoft Cloud?
O Microsoft Cloud é uma plataforma abrangente e integrada que oferece uma ampla gama de recursos e serviços. Ele inclui a IA do Azure, o Microsoft 365, o Microsoft Fabric e muito mais, colocando-o na vanguarda da revolução global da IA generativa.

Essa plataforma permite que você exiba seus dados e funcionalidades proprietários em várias áreas, incluindo o Microsoft 365, um hub de produtividade e colaboração acessado por milhões.

Este guia ajuda você a navegar pelas possibilidades expansivas disponíveis no ecossistema do Microsoft Cloud.

O que são copilotos?
Nos referimos a um copilot como uma assistente virtual alimentada por IA que aumenta a produtividade do usuário, auxiliando humanos com tarefas cognitivas complexas, fornecendo sugestões contextuais e gerando insights avançados em dados. Esses copilots podem ser fundamentados em dados e contexto específicos do cliente ou do ISV, oferecendo uma oportunidade para os ISVs criarem experiências de IA geradoras que entendam dados específicos dos negócios.

Cenários e abordagens

Este guia fornece diretrizes orientadas por cenários para ajudar os ISVs a navegar no campo expansivo do GenAI no Microsoft Cloud. Nosso objetivo é ajudá-lo a selecionar os padrões e tecnologias mais adequados para seus requisitos exclusivos, organizados em três abordagens de alto nível para criar experiências de IA.

Nossas abordagens são divididas em padrões com base em cenários para ajudá-lo a navegar pelo caminho mais apropriado para seu cenário e requisitos.

Abordagem 1: exibir seus dados e serviços nos Copilots da Microsoft:

Essa abordagem foi projetada para ISVs que desejam integrar seus dados e serviços aos Copilots da Microsoft. O foco é usar plug-ins e conectores do Graph para aprimorar as experiências do usuário.

Cenário: sou um ISV em que meus usuários finais executam trabalhos em aplicativos da Microsoft, como Teams, Word, Outlook e eles precisam...

... acessar informações usando interfaces de linguagem natural e tenho um serviço existente que quero disponibilizar por meio desses aplicativos do Microsoft 365.

Padrão A: criar plug-ins para aumentar os recursos do Copilot com dados e funcionalidades ISV

... extraia insights de nossas fontes de dados ISV combinadas com dados centrados no usuário do Microsoft Graph e os dados de linha de negócios de sua organização.

Padrão B: use conectores do Graph para disponibilizar dados ISV para experiências do Copilot.

Abordagem 2: criar copilots em qualquer lugar, com codificação mínima e integração opcional de dados da Microsoft:

Essa abordagem é para ISVs que visam enriquecer seus aplicativos com os dados e ferramentas da Microsoft ou quem deseja criar seus próprios assistentes de IA com o Azure. Isso envolve fazer uso do Microsoft API do Graph, Copilot Studio plug-ins, Biblioteca de IA do Teams ou permitir que os clientes criem suas próprias experiências de copilot com seus dados por meio de conectores.

Cenário: sou um ISV onde meus usuários finais trabalham em qualquer lugar...

... e quero permitir que eles criem suas próprias experiências de copilot usando nossos dados e serviços.

Padrão C: desenvolver conectores do Power Platform para habilitar copilots controlados pelo cliente no Copilot Studio

Cenário: sou um ISV em que meus usuários finais trabalham em meus aplicativos e interface do usuário existentes, que querem que...

... incorporar dados do Graph centrados no usuário da Microsoft em meu copilot.

Padrão D: usar o Microsoft API do Graph em seus copilots

... forneça uma experiência de conversa no meu aplicativo existente, que pode responder a perguntas e transformar conversas em ações.

Padrão E: criar seus próprios Assistentes de IA com o Azure

Cenário: sou um ISV que tem a experiência copilot direcionada ao Microsoft Teams e inclui requisitos para...

... crie bots inteligentes do Teams que se integrem ao GenAI, executem bots no Teams e tenham conversas com reconhecimento de contexto ou usem a experiência de chat do Teams e eu como um foco isv na lógica de negócios complexa.

Padrão F: usar a biblioteca de IA do Teams para criar seu próprio copilot

Abordagem 3: Controle total: criar suas próprias experiências de IA de ponta a ponta ( BYO):

Essa abordagem é voltada para ISVs que buscam criar experiências de IA totalmente novas ou copilots usando ferramentas como Estúdio de IA do Azure e Kernel Semântico. Ele oferece controle e personalização máximos, fornecendo possibilidades ilimitadas.

Cenário: sou um ISV que busca desenvolver experiências interoperáveis de IA de ponta que...

... exigem tratamento especializado de dados multimodais intrincados, que podem incluir modelos de IA de ajuste fino para atender a necessidades específicas de precisão.

... use os modelos e serviços de IA personalizados do ISV para soluções personalizadas.

... fornecem controle total sobre a experiência de conversa, incluindo prompts do sistema, temperatura, tom e requisitos de segurança personalizados.

Padrão G: crie novas experiências de IA interoperáveis ou copilots usando suas APIs existentes usando Estúdio de IA do Azure

Padrão H: criar seu próprio copilot com Kernel Semântico

A pilha do Microsoft Copilot é composta por três camadas distintas: o back-end (com os dados em seus respectivos repositórios), uma camada de orquestração de IA no meio e o front-end (experiência de interface do usuário do copilot). Dentro de cada camada, há camadas recomendadas que devem ser consideradas ao criar um copilot.

À medida que os ISVs passam da Abordagem 1 para a Abordagem 3, eles se envolvem mais profundamente com cada camada, assumindo maiores responsabilidades de desenvolvimento. Por exemplo, criar um plug-in na Abordagem 1 significa que a Microsoft manipula a orquestração de IA, incluindo integração de dados e IA responsável. Por outro lado, o desenvolvimento de um copilot personalizado pode exigir controle total sobre a experiência do usuário, a camada de orquestração, o gerenciamento de dados e a IA responsável.

Um diagrama quadrado mostrando os componentes do Microsoft Copilot Stack. A codificação dos blocos é o rótulo "Segurança e segurança de IA". Dentro da caixa, há duas seções separadas por um conector. A caixa superior é empilhada Copilot Studio, Microsoft Copilot, seus copilots e aplicativos da Microsoft juntos e, em seguida, conecta-se ao conector do meio rotulado como "Orquestração de IA". A caixa inferior empilha seus dados, modelos de base e cadeia de ferramentas de IA e infraestrutura de IA, com setas apontando de volta para o conector central rotulado como "Orquestração de IA". Na parte inferior de toda a pilha, o Microsoft Cloud abrange a totalidade dos produtos.

Cada opção varia em complexidade e esforço. A adoção do Microsoft Copilots existente é simples, estendê-los com plug-ins requer um esforço mínimo e criar uma nova experiência de copilot pode precisar de design, ciência e engenharia.

É importante lembrar que uma solução de IA é tão boa quanto os dados que você baseia seus modelos e usa como contexto. Os Microsoft Copilots prontos para uso já dão suporte a uma variedade de cenários e podem ser estendidos com seus dados, funções e processos. No entanto, a interface do usuário não pode ser estendida. Portanto, é importante considerar cuidadosamente seu cenário específico, como você pode aplicar algoritmos GenAI e como seu usuário (o "piloto") pode se beneficiar de sua funcionalidade de copilot.

Abordagem 1: Exibir seus dados e serviços nos Copilots da Microsoft

Os ISVs que procuram exibir seus serviços, dados e processos existentes nos aplicativos Copilots ou Microsoft 365 da Microsoft podem fazer isso criando plug-ins e conectores.

Essa abordagem permite, por exemplo, que o Microsoft 365 Copilot interaja com APIs de outros softwares e serviços, apresentando informações atualizadas, execute ações e executando novos tipos de computação.

Padrão A: criar plug-ins para aprimorar a funcionalidade de um Copilot existente

Plug-ins são extensões que aumentam os recursos de um Copilot existente, permitindo que ele interaja com aplicativos e serviços ISV. Eles podem expandir os recursos de um usuário habilitando a interação com suas APIs, por meio de conversa em linguagem natural. Por exemplo, um plug-in pode permitir que o Copilot recupere informações úteis, execute novas computações ou execute ações com segurança em nome do usuário.

Um diagrama mostrando quatro componentes do Microsoft Copilot e seu tecido conectado. Primeiro, os dados do Microsoft Graph apontam para o Microsoft Copilot. Em seguida, o Microsoft Copilot tem um ponto de direção bidirecional para e recebendo de um componente de plug-in conectar-se ao aplicativo ISV. O aplicativo ISV está conectado a uma fonte de dados ISV.

Os ISVs podem criar plug-ins usando várias ferramentas, incluindo extensões de mensagens do Teams e plug-ins do Power Platform por meio de Copilot Studio. Novos plug-ins podem ser publicados no ecossistema copilot da Microsoft por meio do Partner Center, onde os administradores de TI podem aprová-los para uso por usuários finais.

Cenários ISV:

• ISVs que procuram exibir seus serviços existentes em aplicativos cliente do Microsoft 365
• Os usuários podem pesquisar, atualizar e executar ações em um aplicativo ISV ou em qualquer sistema externo, em aplicativos cliente do Microsoft 365, como Teams, Outlook, Word etc.
• Um usuário no Teams pode encontrar informações relevantes de um sistema de tíquete externo ou crm que seus clientes usam, opcionalmente incluindo a execução de ações em nome do usuário, dentro do sistema

Vantagem do parceiro:

• Atenda aos milhões de usuários e empresas que usam aplicativos cliente do Microsoft 365, conheça os usuários onde eles trabalham agora.
• Aumente a visibilidade do serviço de solução acessando-os em aplicativos cliente do Microsoft 365.
• Reduza o atrito dos usuários eliminando a necessidade de navegar entre vários aplicativos e telas.
• Uma experiência consistente do usuário em aplicativos do Microsoft 365 com integração e continuidade universais em aplicativos do Microsoft 365.
• Por exemplo, um usuário da Contoso descobre a conta de cliente mais recente resumida com dados provenientes do outlook, do SharePoint e do sistema externo da Fabrikam, sem sair do Teams.

Por onde começar:

• Criar extensões de mensagem para Microsoft Copilot para Microsoft 365 | Microsoft Learn
• Criar plug-ins copilot – visão geral (versão prévia) – Microsoft Copilot Studio | Microsoft Learn

Principais observações:

• Os plug-ins são uma maneira de exibir serviços e aplicativos ISV no Microsoft Copilots, permitindo que os usuários finais interajam com aplicativos e serviços ISV de aplicativos cliente do Microsoft 365.
• Os ISVs podem criar plug-ins usando ferramentas como Extensões de Mensagem do Teams e plug-ins Copilot Studio.
• Os plug-ins podem aumentar a visibilidade e a capacidade de descoberta da solução por meio do Partner Center

Padrão B: usar conectores do Graph para levar seus dados para experiências do Copilot

Os conectores do Graph permitem que os ISVs conectem seus dados ao Índice Semântico do Microsoft 365. Seus dados se tornam pesquisáveis e acionáveis para usuários, diretamente de aplicativos cliente do Microsoft 365, como Teams, Outlook e Word. O Microsoft Copilot se torna baseado em dados ISV, seja na nuvem ou no local, por meio do Microsoft Graph. Além disso, os ISVs podem usar o Microsoft Fabric, uma plataforma de dados unificada entregue como um produto SaaS, para trazer seus dados para a Nuvem da Microsoft e conectá-los facilmente ao Microsoft Graph.

Os ISVs podem criar conectores do Graph usando a API de Conectores do Microsoft Graph, que dá suporte a uma variedade de fontes de dados, sistemas de arquivos, páginas da Web, aplicativos empresariais e muito mais.

Os conectores do Graph também podem enriquecer os dados com recursos de IA, como processamento de linguagem natural, extração de entidade e análise de imagem. Usando conectores do Graph, os ISVs podem estender o Microsoft Copilot com seus próprios dados, aprimorando a experiência do usuário e habilitando interações mais personalizadas e seguras.

Centenas de conectores do Graph já existem. Por exemplo, o conector do grafo Jira Cloud pode elevar objetos Jira ao mesmo nível que os dados do Microsoft 365 Graph, permitindo raciocínio abrangente e integração universal, levando a insights aprimorados e mais avançados. O conector permite que os usuários finais pesquisem objetos Jira do Microsoft 365 Copilot usando a interface de linguagem natural.

Cenários ISV:

• ISVs cujos clientes executam trabalho no Microsoft 365 e desejam permitir que os usuários finais extraam insights de fontes de dados ISV combinadas com dados centrados no usuário do Microsoft Graph.
• Os usuários podem recuperar, resumir e raciocinar dados de aplicativos ISV, combinados com outros dados de grafo do Microsoft 365, por exemplo, emails, documentos do Word etc.
• O Diretor de Comunicações precisa localizar e reformular emails de PR no Outlook enriquecidos com conteúdo proveniente de um aplicativo de design gráfico ISV

Vantagem do parceiro:

• Conheça os usuários onde eles trabalham. Uma vasta base de usuários usa aplicativos cliente do Microsoft 365 e agora pode acessar seus próprios dados e serviço em uma experiência unificada.
• Insights enriquecidos combinando dados ISV com dados do Microsoft Graph.
• Integração universal com aplicativos do Microsoft 365 e Microsoft Pesquisa, Qi de Contexto e Viva, com um conector.
• Canais expandidos para mostrar dados ISV, potencialmente aumentando a base de usuários.

Por onde começar:

• Saiba mais sobre conectores de grafo em aka.ms/graph-connectors
• Crie seu próprio conector de grafo em Criar conectores do Microsoft Graph para Microsoft Copilot para Microsoft 365 | Microsoft Learn

Principais observações:

• Os conectores do Graph permitem que os ISVs tragam seus dados para o ecossistema do Microsoft Copilot, aprimorando a experiência do usuário com interações personalizadas e seguras.
• Os ISVs podem usar o Microsoft Fabric para trazer seus dados para o Microsoft Cloud e conectá-los ao Microsoft Graph.
• Usando conectores do Graph, os ISVs podem combinar seus dados com dados de grafo do Microsoft 365 para fornecer insights enriquecidos e obter integração universal com aplicativos do Microsoft 365.

Abordagem 2: criar copilots em qualquer lugar com codificação mínima e integração opcional de dados da Microsoft

Os ISVs podem trazer o poder de ferramentas e dados sentados no Microsoft Graph em seus próprios aplicativos, aprimorando sua funcionalidade e experiência do usuário.

Padrão C: desenvolver conectores do Power Platform para habilitar copilots controlados pelo cliente em Copilot Studio

Copilot Studio permite que os clientes criem aplicativos de IA de baixo código que podem responder a consultas de usuário comuns, usando dados de suas fontes de dados da organização e da Microsoft e parceiros. Copilot Studio usa conectores do Power Platform para trazer dados de qualquer fonte, em que há mais de 500 conectores atualmente. Como UM ISV, você pode criar conectores para seus dados e serviços, para capacitar seus clientes a criar seus próprios copilots internos e aplicativos de IA, fundamentados em dados ISV.

Um diagrama mostrando os componentes do plug-in Microsoft Copilot Studio. Três fontes se conectam ao plug-in Copilot Studio, incluindo dados do Microsoft Graph, conectores do Power Platform e outras fontes de dados. O plug-in Copilot Studio se conecta a aplicativos ISV por meio de um plug-in.

Esses aplicativos de IA podem ser exibidos para usuários finais em várias plataformas, incluindo sites, aplicativos móveis, Microsoft Teams ou qualquer canal compatível com o Azure Bot Framework.

Cenários de exemplo:

• OS ISVs que procuram fornecer uma experiência de chat bot para seus clientes, dentro de seus aplicativos existentes, que podem responder a perguntas e transformar conversas em ações.
• Os usuários fazem perguntas em seu aplicativo e recebem respostas fundamentadas em fontes de dados ISV, Microsoft ou cliente.
• Crie um conector de cliente de suas APIs existentes e converta-o em plug-in usando Copilot Studio permitindo que essas APIs sejam chamadas de um chat bot com interface de linguagem natural.
• Converta fluxos existentes do Power Automate em plug-ins que podem ser chamados do chat do copilot da Microsoft para executar ações e recuperar informações.
• Acesse dados por meio da interface de linguagem natural de sistemas empresariais como Zendesk, GitHub e Salesforce por meio desses conectores no Power Platform.

Vantagem do parceiro:

• Aproveite o poder dos conectores existentes da Microsoft e não da Microsoft para aprimorar e enriquecer seu aplicativo sem esforço.
• Agilize o desenvolvimento de plug-in aplicando a abordagem do conector personalizado do Power Platform para uma integração rápida e eficiente.
• Aprimore o tempo a valor por meio dos recursos de baixo código de Copilot Studio.
• Obtenha uma vantagem competitiva integrando recursos de IA ao seu aplicativo com codificação mínima.

Por onde começar:

• arquitetura do plug-in Microsoft Copilot Studio – Microsoft Copilot Studio | Microsoft Learn
• Inserir um controle do Power Virtual Agents usando o controle chatbot | Microsoft Learn

Principais observações:

• Copilot Studio oferece uma plataforma para criar aplicativos de IA de baixo código que podem aprimorar aplicativos existentes com recursos de chatbot fundamentados em funções ou dados ISV.
• A plataforma dá suporte a conectores do Power Platform existentes e conectores personalizados, oferecendo flexibilidade na integração de serviços ISV e fontes de dados.
• A integração dos recursos de IA pode melhorar significativamente a experiência do usuário e dar ao seu aplicativo uma vantagem competitiva.

Padrão D: aproveitar o Microsoft API do Graph em seus copilots

O Microsoft API do Graph oferece um ponto de extremidade avançado para acessar dados centrados no usuário de aplicativos do Microsoft 365, que inclui Calendário, Bookings, Outlook, Teams, OneDrive, SharePoint e muito mais. Com essa API, você pode enriquecer seus aplicativos com dados do Microsoft 365, permitindo que os usuários derivem insights e análises mais avançados.

Um diagrama mostrando quatro componentes do Microsoft Copilot e seu tecido conectado. Primeiro, os dados do Microsoft Graph apontam para o Microsoft Copilot. Os dados do Microsoft Graph também têm uma seta conectando-os ao aplicativo ISV, com a seta simbolizando o API do Graph. O aplicativo ISV está conectado a uma fonte de dados ISV.

Cenários ISV:

• Clientes e parceiros que usam o aplicativo ISV existente que buscam combinar dados do Graph centrados no usuário da Microsoft em seu copilot.
• Um ISV com um aplicativo de gerenciamento de projetos deseja incorporar dados de calendário do Microsoft 365 e dados de documentos de projeto para ajudar os usuários a acompanhar prazos e marcos dentro do aplicativo.
• Um ISV com um aplicativo CRM deseja incorporar dados de contato e email do Microsoft 365 para aprimorar os perfis do cliente e os logs de comunicação.

Considere a Fabrikam, um versátil software HCM (Human Capital Management) equipado com um pacote de RH flexível, capacitando a automação contínua de vários fluxos de trabalho, como aquisição de talentos, gerenciamento de recompensas de funcionários e processos de feedback. Em sua busca contínua pela inovação, a Fabrikam apresenta um recurso de copilot de ponta no topo de sua suíte de RH. Agora, eles visam elevar ainda mais seu aplicativo integrando dados de grafo centrados no usuário. Esse aprimoramento envolve o uso de API do Graph para incorporar calendários dos funcionários, abrangendo detalhes como horários agendados e 1:1s para processos de comentários etc.

Vantagem do parceiro:

• Descubra insights enriquecidos combinando seus dados com o Microsoft 365 Graph.
• Integração contínua: acesso padronizado aos dados do Microsoft 365 para facilitar a integração com seus aplicativos.
• Experiência do usuário aprimorada: forneça uma experiência de usuário mais perfeita com acesso a dados e recursos relevantes do Microsoft 365 em seu aplicativo.
• Funcionalidade aprimorada: adicione novos recursos e recursos ao seu aplicativo usando dados do Microsoft 365.
• Escalabilidade e eficiência: concentre-se em criar e melhorar seus aplicativos enquanto o API do Graph lida com a recuperação de dados.

Por onde começar:

• Usar Explorer do Graph para experimentar APIs do Microsoft Graph – Microsoft Graph | Microsoft Learn
• Início Rápido – Microsoft Graph

Principais observações:

• O microsoft API do Graph permite que os ISVs enriqueçam seus aplicativos com dados centrados no usuário do Microsoft 365.
• Por meio de APIs do Graph, você pode aproveitar o Índice Semântico do Microsoft 365, uma experiência de pesquisa mais avançada criada para a era dos Copilots.
• Usando o API do Graph, os ISVs podem aprimorar seus aplicativos com insights e análises mais avançados.

Padrão E: traga uma experiência de copilot para seus aplicativos com assistentes do OpenAI do Azure

Os ISVs podem adotar essa abordagem de baixo código nos Serviços de IA do Azure para trazer experiências semelhantes a copilot para seus próprios aplicativos. Ele oferece um caminho rápido para aplicar a chamada de função do GPT para chamar suas próprias APIs simplesmente descrevendo a estrutura da função em JSON e fornecendo um ambiente python em área restrita para executar e executar código para ajudar a formular respostas às perguntas do usuário.

Ambos os recursos podem ser úteis para descarregar desafios não baseados em linguagem para código convencional ou sistemas existentes que são mais adequados para a tarefa, por exemplo, tarefas matemáticas simples.

Embora você não tenha acesso direto ao prompt e à temperatura do sistema, você pode afetar de forma semelhante o comportamento do Assistente por meio de Instruções Personalizadas que têm uma forte influência sobre a personalidade de sua experiência semelhante ao copilot.

Vantagem do parceiro:

• Os Assistentes openAI do Azure fornecem uma abordagem de baixo código, permitindo que os ISVs integrem rapidamente as funcionalidades de IA generativa em seus aplicativos sem um amplo esforço de desenvolvimento.

Por onde começar:

• Início Rápido – Introdução aos Assistentes openAI do Azure (versão prévia) – OpenAI do Azure | Microsoft Learn
• Como criar assistentes com o Serviço OpenAI do Azure – OpenAI do Azure | Microsoft Learn

Principais observações:

• Os ISVs podem usar os Assistentes openAI do Azure para criar interfaces interativas de linguagem natural que aprimoram o envolvimento do usuário. Esses assistentes podem chamar as APIs por meio de simplesmente descrevendo-as por meio de JSON.
• Um Assistente openAI do Azure pode escrever e executar código, em uma área restrita, com base no prompt de um usuário, para resolver um problema não GenAI.

Padrão F: usar a Biblioteca de IA do Teams para criar seu próprio copilot

Os ISVs também podem usar a Biblioteca de IA do Teams para adicionar funcionalidade de linguagem natural em seu chatbot existente do Teams. Essa biblioteca permite que os ISVs se concentrem em sua lógica de negócios, enquanto usam o scaffolding do Teams para lidar com interações de conversa. Os ISVs podem exibir seus chatbots no Teams, oferecendo aos usuários uma maneira mais natural e intuitiva de interagir com seus aplicativos.

Um diagrama mostrando o fluxo do padrão de biblioteca de IA do Microsoft Teams. Frist, a engenharia de prompt flui para a Biblioteca de IA do Teams. Em seguida, os dados fluem da Biblioteca de IA do Teams para duas fontes: aplicativo ISV e Serviço OpenAI do Azure. Esses dois locais fluem dados bidirecionalmente.

Cenário de ISV:

• Os usuários finais estão usando o Teams e o parceiro ISV está procurando exibir seu serviço ou funcionalidade no Teams com recursos semelhantes ao Bot.
• Nenhuma integração é necessária com os dados do Graph e o parceiro ISV está procurando se concentrar no serviço e na lógica de negócios sem se integrar aos recursos do Teams Copilot.
• Com modelos de aplicativo predefinidos do Teams e recursos internos de segurança de moderação, o parceiro ISV pode adicionar facilmente a funcionalidade llm ao seu chatbot existente.

Vantagem do parceiro:

• Adicione ChatGPT como experiências de conversa, com controle sobre a engenharia de prompts para seu bot e reutilize recursos de segurança internos.
• Criado com base em recursos prontos para reutilização, como
  • Histórico de sessão de conversa oferecido pelo mecanismo de IA do Teams.
  • Suporte a vários idiomas.
  • Suporte a modelos de linguagem multi grande, além de modelos OpenAI.
  • Planejador de ações que pode ajudar a mapear para ações com base na intenção do usuário.
  • Pronto para usar o mecanismo de aumento para alterar a maneira como o modelo está respondendo por meio de parâmetros ou alteração de prompt do sistema.
  • Raciocínio extra que pode basear as respostas do modelo em seus dados.

Por onde começar:

• Introdução à Biblioteca de IA do Teams: biblioteca de IA do Teams – Teams | Microsoft Learn
• Lista de recursos técnicos: funcionalidades da biblioteca de IA do Teams – Teams | Microsoft Learn

Principais observações:

• A biblioteca de IA da equipe fornece uma maneira fácil de iluminar um bot desenvolvido por ISV no Teams com o poder das LLMs.
• Ele não requer a integração com os recursos atuais do Microsoft Copilot, pode fornecer uma experiência orientada a tarefas.
• Ele oferece muitas possibilidades de uma perspectiva de engenharia, mas também está pronto para usar recursos prontos para uso, facilitando todo o processo de desenvolvimento.

Se você quiser habilitar seu bot no Teams com LLMs, a Biblioteca de IA do Teams é o caminho a seguir.

Abordagem 3: Controle total: criar suas próprias experiências de IA de ponta a ponta (BYO)

Os ISVs podem usar o Microsoft Copilot Stack para criar experiências de IA totalmente novas, como copilots ou assistentes inteligentes. Um edifício ISV nesta parte intermediária da pilha assume a responsabilidade pela Orquestração de IA , em que a Microsoft oferece várias opções, todas elas aplicam os modelos fundamentais da Microsoft, a cadeia de ferramentas de IA e a infraestrutura de IA.

O Kernel Semântico pode ser aproveitado para criar os mesmos padrões de orquestração de IA que alimentam o Microsoft Copilots em seus copilots. Ele está disponível como um SDK no qual você pode desenvolver diretamente.

Um diagrama quadrado mostrando os componentes da orquestração de pilha do Microsoft Copilot. A primeira caixa é rotulada como "Aplicativos e Front-end do Copilot" e é conectada por uma seta bidirecional a uma caixa maior rotulada como "Orquestração de IA", que é preenchida com componentes de pilha. Dentro Copilot Studio, Estúdio de IA do Azure, fluxo de prompt, avaliações, experimentos, catálogo de modelos, ajuste fino, Kernel Semântico e Machine Learning. A pilha de "orquestração de IA" está conectada a outra caixa rotulada como "modelos de base e dados". Na parte inferior de toda a pilha, o Microsoft Cloud abrange a totalidade dos produtos.

Com a maioria dos investimentos criando um serviço copilot no meio da pilha, os ISVs têm a liberdade de conectar esse serviço copilot a várias superfícies, incluindo Teams, Microsoft 365 Copilot, Microsoft Copilot, suas próprias superfícies de aplicativo, sites, chat bots – ou tudo. Essencialmente, quando se trata de integração com uma superfície de aplicativo – a parte superior da nossa pilha – todos os outros padrões descritos aqui também são uma opção.

Padrão G: crie seu próprio copilot com Estúdio de IA do Azure

Estúdio de IA do Azure é uma plataforma all-in-one para isvs criarem assistentes personalizados, inteligentes ou copilots. Ele combina recursos de vários serviços de IA do Azure, fornecendo um workspace unificado para desenvolver e implantar aplicativos de IA generativos. É uma plataforma colaborativa em que cientistas de dados, desenvolvedores e outros stakeholders podem convergir e trabalhar juntos.

Com Estúdio de IA do Azure, os ISVs ganham controle total sobre o comportamento, a personalidade e as funcionalidades do copilot. Seja usando modelos pré-treinados existentes de nosso catálogo extensivo, ajustando modelos em seus dados ou treinando seus próprios modelos de IA personalizados, Estúdio de IA do Azure acelera o desenvolvimento de experiências de IA que lidam com dados multimodal complexos.

Uma característica de destaque da Estúdio de IA do Azure é sua variedade diversificada de modelos, atendendo a vários setores e casos de uso. Ele permite que os ISVs combinem modelos diferentes em uma única solução para atender aos seus requisitos exclusivos.

A integração com o Pesquisa de IA do Azure permite que os ISVs implementem um padrão RAG (Recuperação de Geração Aumentada) para dados não estruturados diretamente de Estúdio de IA do Azure, com a vantagem adicional do recurso de Vetorização Integrada do Pesquisa de IA. Isso significa que todos os dados de que seu copilot precisa podem ser mantidos atualizados automaticamente em um banco de dados vetor, facilitando a recuperação rápida e eficiente durante a avaliação do prompt do usuário, salvando a tarefa de implementar um padrão de indexação, agrupamento, inserção e vetorização por conta própria.

O Fluxo de Prompt, um recurso de Estúdio de IA do Azure, oferece um grafo visualizado para orquestrar fluxos executáveis com LLMs (Modelos de Linguagem Grande), prompts e ferramentas python. Ele facilita a depuração, o compartilhamento e a iteração em seus fluxos com facilidade por meio da colaboração em equipe.

Para equipes de ISV que preferem uma abordagem de code-first, o SDK de IA do Azure oferece um pacote de pacotes para acessar os serviços de IA do Azure, incluindo a configuração de projetos Estúdio de IA do Azure e recursos relacionados. Isso permite que desenvolvedores e cientistas de dados gerenciem componentes de IA, configurem modelos de IA, pipelines e serviços diretamente do código, ao mesmo tempo em que disponibilizam a interface gráfica para quem preferir.

A criação de protótipos é fácil em Estúdio de IA do Azure por meio de seu Playground. Uma jornada típica para uma equipe que trabalha em um projeto no Estúdio de IA do Azure pode começar com um indivíduo validando uma ideia no Playground. Depois que os resultados atraentes são produzidos, eles podem ser solicitados do Playground para o Fluxo de Prompt como um fluxo com controle de versão e personalizado. Agora, um artefato com controle de versão no Projeto de IA, a equipe mais ampla pode contribuir onde o fluxo está acessível por meio de Estúdio de IA do Azure interface do usuário e por meio de somente código. Vários branches de lógica para LLMs diferentes podem ser testados e avaliados neste ponto.

Além da fase de desenvolvimento, Estúdio de IA do Azure também fornece uma cadeia de ferramentas LLMOps, tratando sua engenharia de prompt de ponta a ponta, desde o desenvolvimento até a produção e a manutenção contínua.

Estúdio de IA do Azure dá suporte à integração com o Pesquisa de IA do Azure, o Serviço de IA Aberta do Azure e outros serviços de IA do Azure, simplificando o gerenciamento de recursos para ISVs. Ele também fornece um workspace orientado a projetos, promovendo a colaboração contra computação compartilhada, implantações de modelo e serviços.

Cenários de ISV:

• Um ISV de saúde que cria uma plataforma de telemedicina quer um copilot que entenda o jargão médico, ajude os médicos no diagnóstico de pacientes e forneça recomendações de tratamento relevantes.
• Um provedor de serviços financeiros precisa de um copilot que possa analisar tendências de mercado, responder a consultas de clientes sobre opções de investimento e gerar relatórios financeiros personalizados.
• Uma plataforma de e-learning quer um copilot que orienta os alunos, explica conceitos complexos e adapta seu estilo de ensino com base nas preferências de aprendizagem individuais.
• Uma seguradora acelera a análise de documentos durante o processo de reclamação validando se a declaração atual pode ser coberta pelo contrato.
• O copilot de companhias aéreas pode ajudá-lo a planejar a viagem, procurar os bilhetes e hotéis e reserve-os assim que estiver satisfeito com a oferta.
• Uma cadeia de restaurantes está criando um aplicativo copilot para ajudar novos funcionários a serem integrados, orientando-os durante todo o processo.
• Um ISV oferece aos clientes uma extensão do VS Code para ajudar os desenvolvedores a criar a integração com suas APIs.

Vantagem do parceiro:

• Personalização e controle: crie um copilot sob medida que se alinhe precisamente aos requisitos do aplicativo.
• Flexibilidade de cenário: atenda a uma ampla variedade de cenários, desde copilots específicos do domínio até automação de tarefas e geração de conteúdo.
• Integração com sistemas existentes: conecte-se a bancos de dados, APIs e outros serviços para aprimorar os recursos do copilot.
• Identidade da Marca e Experiência do Usuário: modele a personalidade do copilot para se alinhar com a voz da marca e aprimorar a experiência do usuário.
• Experiência de build: SDK de software livre e altamente extensível, o Kernel Semântico permite criar agentes inteligentes que podem chamar suas APIs existentes. Com o Kernel Semântico, você pode usar os mesmos padrões de orquestração de IA que alimentam os copilots da Microsoft em nossos próprios aplicativos.
• Escalabilidade e implantação: implante seu copilot em vários clientes ou aplicativos, atendendo milhares de usuários simultaneamente.

Por onde começar:

• O que é o AI Studio? - Estúdio de IA do Azure | Microsoft Learn
• Criar e implantar seu próprio copilot com o Fluxo de Prompt no Estúdio de IA do Azure | Microsoft Learn
• Criar e implantar seu próprio copilot com a CLI e o SDK do Azure AI | Microsoft Learn

Principais observações:

• Estúdio de IA do Azure oferece uma plataforma poderosa para criar assistentes personalizados, inteligentes ou copilots.
• Os ISVs podem moldar o comportamento, a personalidade e as funcionalidades do copilot, criando uma solução verdadeiramente sob medida.
• Estúdio de IA do Azure dá suporte a uma ampla variedade de cenários e se integra perfeitamente à infraestrutura existente.
• Criar um copilot personalizado com Estúdio de IA do Azure pode aprimorar a experiência do usuário e fornecer soluções personalizadas para casos de uso específicos.
• O AI Studio oferece um serviço copilot (ou back-end), exibido como um único ponto de extremidade dimensionado
• Em seguida, um ISV tem opções para conectar o serviço a um aplicativo, front-end ou superfície de conversa de sua escolha, incluindo qualquer um dos padrões anteriores acima.
• Lembre-se de que esse padrão pode ser combinado com outras pessoas com base em suas necessidades específicas. Por exemplo, convém emparelhar esse padrão com o Padrão A e o plug-in a um Microsoft Copilot ou o Padrão F para exibir seu próprio bot copilot no Teams.

Padrão H: Crie seu próprio copilot com Kernel Semântico

O Kernel Semântico é um SDK de software livre que capacita os desenvolvedores a criar copilots sofisticados em seus aplicativos. Ele dá suporte a uma variedade de linguagens de programação, incluindo C#, Java e Python, tornando-o acessível a uma ampla comunidade de desenvolvedores. O Kernel Semântico permite a orquestração de plug-ins de IA, permitindo a integração com vários modelos de IA, incluindo do Azure OpenAI e do Hugging Face.

O Kernel Semântico encapsula a essência dos padrões de orquestração de IA do Microsoft Copilots, fornecendo aos desenvolvedores ferramentas para criar agentes e copilots.

Os agentes são sistemas de IA que podem responder a perguntas e automatizar processos para os usuários. Eles variam de chatbots simples a assistentes de IA totalmente automatizados. Copilots, um tipo especial de agente, funcionam junto com os usuários. Ao contrário dos agentes totalmente automatizados, os copilots fornecem sugestões e recomendações, permitindo que os usuários mantenham o controle.

Plug-ins: eles fornecem habilidades ao seu agente. Você pode criar plug-ins para tarefas como enviar emails, recuperar informações de bancos de dados ou pedir ajuda.

Planejadores: os agentes usam planejadores para gerar planos para concluir tarefas. Por exemplo, um copilot que ajuda um usuário a escrever um email criaria um plano com etapas como coletar detalhes do destinatário e redigir o email.

O SDK vem com a extensão do VS Code, um aplicativo copilot de chat de exemplo, mas também com iniciantes para oferecer a você um scaffolding para dar vida às suas ideias.

Uma que você decidiu começar a trabalhar com o Kernel Semântico, sugerimos definir alguns recursos antes de começar a codificar:

• Comece definindo a persona e o comportamento de um copilot.
• Crie plug-ins para tarefas comuns que seu copilot ajudará.
• Use planejadores para gerar planos para ações de copilot.
• Planeje testar completamente para garantir uma experiência de usuário refinada.
• Certifique-se de que você possa coletar comentários de seus usuários e implementá-lo no comportamento do agente ou do copilot.

Cenários de ISV:

• Você está criando um copilot que faz parte de seu próprio aplicativo (ferramenta de desenvolvimento de clientes ou sistema de RH) e deseja que as pessoas permaneçam no reino da mesma interface do usuário.
• Você precisa de um controle total sobre o mecanismo de orquestração, implementação de RAG, opções de modelo e parâmetros de modelo.
• Com seu serviço copilot, você deseja permitir que seus clientes criem extensão sobre sua solução por meio de plug-ins.
• Sua solução utiliza telas e outras mídias, além de apenas texto.

Vantagem do parceiro:

• Controle total sobre seu comportamento copilot com acesso ao mecanismo de orquestração opinativo usado pela Microsoft para criar copilots de primeira parte.
• Baseie modelos perfeitamente em seus próprios dados corporativos e integre dados estruturados, não estruturados e em tempo real usando o Microsoft Fabric OneLake. Isso permite que os desenvolvedores empreguem uma pesquisa híbrida e semântica sofisticada para alimentar aplicativos rag (recuperação de geração aumentada).
• Acesso a ferramentas superiores para refinar respostas de IA usando as ferramentas de engenharia de prompt e LLMOps, como o fluxo de prompts.

Por onde começar:

• GitHub – microsoft/semantic-kernel: integrar a tecnologia LLM de ponta de forma rápida e fácil aos seus aplicativos
• Criando agentes e copilots com kernel semântico | Microsoft Learn
• Noções básicas sobre plug-ins de IA no Kernel Semântico e além | Microsoft Learn

Principais observações:

• O Kernel Semântico é uma estrutura de software livre opinativa que ajuda os desenvolvedores a criar funcionalidades do GenAI em seus aplicativos com mais facilidade
• Ele está sendo mantido e desenvolvido pela Microsoft e usado por equipes de primeira parte para criar soluções do Microsoft Copilot.
• Com o conjunto de exemplos, ele ajuda você a iniciar facilmente sua jornada genai dentro de sua própria pilha de aplicativos.
• Lembre-se de que esse padrão pode ser combinado com outras pessoas com base em suas necessidades específicas. Por exemplo, convém emparelhar esse padrão com o Padrão A e o plug-in a um Microsoft Copilot ou o Padrão F para exibir seu próprio bot copilot no Teams.

Conclusão

Começamos com cenários e compramos você para um ou mais padrões de interesse, que coletamos em uma das três Abordagens. Embora cada padrão tenha alguma variação, há alguns recursos comuns para cada Abordagem:

	Abordagem 1: Exibir seus dados e serviços nos Copilots da Microsoft	Abordagem 2: criar copilots em qualquer lugar com codificação mínima e integração de dados opcional da Microsoft	Abordagem 3: Controle total: criar suas próprias experiências de IA de ponta a ponta (BYO)
Esforço de desenvolvimento	Baixo (código não/baixo)	Médio (código mínimo)	Alto (código Pro)
Fontes de dados	Microsoft Graph (Microsoft/M365 ou não Microsoft por meio de conectores)	Vários. Conectores do Power Platform, Microsoft Graph, Suas APIs.	Pode abranger várias fontes de dados, serviços e aplicativos dentro ou fora do locatário da Microsoft
Interface do usuário ou superfície de conversa	Fornecido pelo Copilot que está sendo estendido, por exemplo, Teams, Microsoft 365 etc.	Varia de acordo com a abordagem fornecida pela Microsoft, para trazer a sua própria.	Traga seu próprio. Várias superfícies possíveis com o mesmo copilot
Influência sobre os parâmetros de tom, comportamento e modelo do copilot	Sem controle direto. Os parâmetros de modelo são responsabilidade do Copilot ser estendido.	Alguns influenciam especialmente para o comportamento e o tom, por meio de instruções personalizadas que fazem parte do metaprompt. Com a Biblioteca de IA do Teams, você pode controlar parâmetros de modelo.	Controle direto de parâmetros de modelo, como temperatura, prompts do sistema, tokens máximos etc. Comportamento de copilot personalizado.
Com capacidade para vários modelos	No	No	Sim Várias chamadas para modelos diversos dentro do mesmo fluxo
Suporte a modelo	Fornecido pelo sistema	Escolha de modelos OpenAI	Escolha de qualquer modelo OpenAI e catálogo de modelo completo
IA responsável	Fornecido pelo sistema	Fornecido pelo sistema ou opções utilizáveis em cada padrão	Responsabilidade do ISV com opções de plataforma em cada padrão.
Suporte para histórico de chat	Fornecido pelo sistema	Fornecido pelo sistema ou opções utilizáveis em cada padrão	Responsabilidade do ISV com opções de plataforma em cada padrão.
Cenários de exemplo	Os usuários no Microsoft Copilots podem executar ações ou obter insights de dados e serviços do ISV.	Introduza um assistente GenAI na superfície de aplicativo ISV existente para raciocinar sobre dados de cliente ou ISV. Apresente seu próprio copilot ou chatbot em uma superfície existente da Microsoft, como o Teams, com uma identidade e experiência separadas para os Microsoft Copilots.	Seus clientes e usuários interagem com um copilot totalmente personalizado para sua marca e comportamento, o que pode resultar em vários conjuntos de dados e sistemas conectados de uma múltipla escolha de interface do usuário ou superfícies de conversa.

Essas abordagens são uma ordem de crescentes possibilidades de personalização, o que também requer um ISV para obter mais responsabilidade por meio do controle obtido e aumenta o esforço geral de desenvolvimento.

Portanto, é altamente recomendável a partir da Abordagem 1, que pode muito bem ser a maneira mais rápida de comercializar para seus requisitos iniciais. A Microsoft está lançando novos Copilots iniciantes com frequência. Continuamente marcar para ver se um novo Copilot pode atender às necessidades dos usuários com mais eficiência estendendo seus dados e serviços para ele.

Vá para Abordagens 2 e 3 gradualmente, pois seus requisitos levam você à necessidade de mais controle e personalização.

Uma exceção aqui é talvez quando um ISV já tem uma funcionalidade de IA existente internamente com ativos existentes. Por exemplo, um ISV que já tem uma equipe genai com processos AIOps existentes e já tem IP criado em Python ou LangChain, pode ser naturalmente melhor orientado para a Abordagem 3.

Um texto explicativo de chave final é que essa lista de padrões não é exaustiva ou mutuamente exclusiva. Selecionamos aqui padrões selecionados em que vemos sinergias para ISVs e é importante entender que eles podem ser combinados de várias maneiras para criar uma solução que atenda perfeitamente às suas necessidades. Por exemplo, ao trabalhar com a Abordagem 3 (Padrões G ou H), talvez seja necessário um front-end. Nesse caso, você pode usar plug-ins (Padrão A) ou a Biblioteca de IA do Teams (Padrão F) junto com ela. Sempre considere as sinergias entre padrões diferentes ao planejar sua estratégia de IA.