Preparando-se para a Era da IA Generativa

OUT 21, 2024 Eunju Hong

Este artigo é baseado na sessão "Preparando-se para a Era da IA Generativa" do seminário "Samsung SDS Gen AI Day" realizado em abril de 2024 pela Samsung SDS para clientes de diversos setores.

Vivemos atualmente em uma era em que a IA generativa pode criar imagens ou vídeos com apenas um simples prompt de texto. Você já viu o recente vídeo de demonstração do robô "Figure 01", produzido em colaboração entre a startup de desenvolvimento de robôs humanoides Figure AI e a OpenAI, desenvolvedora do ChatGPT? No vídeo, quando uma pessoa pede ao robô: "Me dê algo para comer", o robô pega uma maçã de um prato no centro da mesa. O que é notável nesse vídeo é que, embora a pessoa não tenha apontado especificamente para a maçã, o robô entendeu que a maçã era o único item comestível entre os objetos na mesa. O robô então limpou o prato e até mesmo pegou o lixo, imitando ações humanas e fazendo inferências experimentais sobre seu comportamento. "Figure 01" já assinou um contrato com a BMW em janeiro de 2024 e está programado para ser implantado na linha de produção da fábrica da BMW em Spartanburg, na Carolina do Sul, EUA.[1][2] Além disso, o robô humanoide da Tesla, 'Optimus', deve começar a ser implantado nas fábricas de montagem de veículos elétricos da Tesla este ano, com planos de disponibilidade comercial por cerca de US$ 20.000 até o final do próximo ano.[3] Esses robôs humanoides representam o que pode ser chamado de "futuro próximo da IA"

A screenshot from the demo video of Figure 01 AI humanoid robot

Uma captura de tela do vídeo de demonstração do robô humanoide Figure 01 AI (Fonte: OpenAI)

O Presente e o Futuro da IA

Até agora, a IA tem sido categorizada como "IA Estreita", que é excelente em realizar tarefas específicas para auxiliar humanos em seu trabalho. No entanto, nos próximos cinco anos, espera-se o surgimento de uma nova era de "Inteligência Artificial Geral (AGI)" - IA com capacidades cognitivas humanas, capaz de substituir o trabalho humano. Bill Gates afirmou que "a IA mudará completamente a maneira como usamos computadores", sugerindo que, tanto quanto dependemos atualmente de computadores para o trabalho, toda a nossa forma de trabalhar provavelmente passará por uma transformação completa.

Então, como a nossa forma de trabalhar vai mudar? O robô humanoide mencionado anteriormente foi capaz de determinar independentemente o que era comestível, pegá-lo e entregá-lo. Se aplicarmos isso a tarefas corporativas dizendo: "Escreva um relatório", a IA entenderá o propósito, determinará quais informações internas e externas estão disponíveis, decidirá quais informações referenciar e, em seguida, escreverá (executará) o relatório. Além disso, robôs com aparência humanoide podem até mesmo fazer apresentações em nosso lugar. Todos esses são parte do futuro próximo, e a mudança mais significativa provavelmente será como interagimos com os computadores. Em vez de inserir comandos diretamente ou usar métodos GUI como cliques do mouse, estamos transitando para a era da "Interface de Usuário de Linguagem (LUI)", onde as instruções são dadas em linguagem humana.

Usuário de Linguagem (LUI)", onde as instruções são dadas em linguagem humana. Em última análise, a forma como as empresas trabalham evoluirá para o ponto em que, com apenas uma consulta ou comando de uma pessoa, uma plataforma interna de IA generativa entenderá a instrução, puxará e aprenderá autonomamente dos sistemas internos, documentos ou dados externos da empresa, e então automaticamente executará tarefas em toda a cadeia de valor do negócio. No futuro próximo, podemos ver um mundo onde as transações do sistema de compras são processadas imediatamente, os robôs lidam diretamente com a logística e, nas áreas de vendas/serviço, as interações com os clientes são gerenciadas por meio de quiosques de loja ou robôs humanoides.

O futuro das formas de trabalho corporativo (Fonte: Samsung SDS)

Soluções de IA Generativa da Samsung SDS

A Samsung SDS oferece serviços de IA generativa empresarial que suportam a inovação na forma como o trabalho é realizado por meio da IA. Esses serviços incluem uma Plataforma/Solução de IA Generativa, uma Pilha Tecnológica de IA Generativa com componentes como Filter e LLMOps. Por meio de “consultoria, implementação e serviços gerenciados” em todas as áreas do Serviço de Infraestrutura de Nuvem de IA, a Samsung SDS ajuda as empresas a transformar suas operações para serem mais rápidas e convenientes, baseadas em hiperescala, hiperconectividade e hiperinteligência.

Dentre as plataformas e soluções de IA generativa oferecidas pela Samsung SDS, explicarei brevemente os recursos e a demonstração do Brity Copilot, que automatiza cadeias de valor para tarefas comuns, e da plataforma FabriX, que lida com hiperconectividade e hiperinteligência.

Local de trabalho transformado pela IA empresarial (Fonte: Samsung SDS)

1. Brity Copilot

Brity Copilot is a é um serviço de IA generativa personalizado para empresas, que pode ser utilizado através da solução de colaboração da Samsung SDS, Brity Works.

Brity Works é uma solução utilizada por mais de 500.000 funcionários em 86 empresas e inclui componentes como e-mail, aprovação, mensagens, reuniões e drive. Ela oferece serviços baseados em 30 anos de expertise operacional. Cada uma dessas soluções pode ser usada individualmente, mas também são integradas sistematicamente, permitindo um uso otimizado de acordo com a situação de trabalho. Por exemplo, se a comunicação por e-mail for insuficiente, você pode facilmente abrir um chat de mensagens ou uma reunião online com os destinatários do e-mail para uma comunicação mais detalhada. Além disso, informações sensíveis, como dados do cliente, podem ser protegidas de vazamentos externos através de filtragem de palavras-chave. Com o Brity Copilot, que aplica tecnologia de IA generativa, você não apenas pode receber assistência em diversas tarefas, mas também transformar fundamentalmente a forma como sua empresa opera.

Brity Copilot: Generative AI-based Collaboration Solution

Brity Copilot: Solução de colaboração baseada em IA generativa (Fonte: Samsung SDS)

A demonstração continuará com o cenário Meeting → Messenger → Mail → Document Creation.

① Meeting (Brity Meeting)
Durante uma reunião online usando o Brity Meeting, legendas em tempo real são fornecidas junto com um script de legendas na área do Copilot, à direita. Isso ajuda a garantir uma comunicação clara com mais de 94% de precisão em coreano. Mesmo que alguém se junte à reunião tarde, eles podem acompanhar a reunião por meio da transcrição. E se um participante estrangeiro estiver na reunião, a transcrição estará disponível no idioma selecionado, eliminando a necessidade de um intérprete separado. Se um colega que não pôde participar da reunião quiser saber o que foi discutido, ele pode pedir ao Copilot para resumir a reunião até o momento, e o resumo será enviado através do Brity Messenger. Após o término da reunião, o Copilot gera automaticamente a ata da reunião e a compartilha com os participantes via Brity Mail.

Brity Meeting Copilot - Crie atas de reuniões (Fonte: Samsung SDS)

② Messenger (Brity Messenger)
Uma nova sala de chat foi criada no Brity Messenger. Enquanto você pode rolar para cima para revisar conversas anteriores, também pode selecionar "Resumo da Conversação" no Copilot para entender rapidamente o conteúdo antes de prosseguir com suas tarefas. Não é necessário alternar para uma janela de pesquisa separada quando você precisa pesquisar por conhecimento externo durante uma conversa. Basta escolher "Pesquisar Informações" no Copilot e solicitar, "Explique exemplos de uso de IA generativa", e ele gerará uma resposta. Se a resposta for adequada, você pode facilmente compartilhá-la via messenger simplesmente arrastando e soltando. Além disso, se você precisar pesquisar os documentos armazenados no sistema de gerenciamento de documentos da empresa, você pode selecionar "Pesquisar Arquivo". Por exemplo, inserindo a palavra-chave "setor de manufatura", você pode recuperar uma lista de documentos relacionados, ordenados pela data mais recente. Embora você possa abrir cada documento para verificar seu conteúdo, o Copilot também permite que você selecione "Resumo do Arquivo" para revisar o conteúdo resumido, que pode então ser compartilhado através do messenger.

Os recursos do Brity Messenger Copilot (Fonte: Samsung SDS)

③ Mail (Brity Mail)
Neste cenário, você reportará os exemplos de uso de informações de IA generativa recebidas através do Copilot do Brity Messenger usando o Brity Mail. Colando a resposta no Copilot do Brity Mail e especificando o 'autor' e os 'destinatários do relatório', você pode solicitar que ele elabore um e-mail de relatório. O Copilot então gerará um rascunho de e-mail para você. Você pode modificar o comprimento ou o estilo conforme necessário, adicioná-lo ao corpo principal do e-mail após revisar o rascunho e enviá-lo imediatamente. O e-mail da ata da reunião, que é gerado e enviado automaticamente pelo Copilot, contém um resumo dos participantes, pontos-chave e itens de ação. Você pode visualizar o conteúdo mais detalhado da reunião selecionando "Ir para a Ata da Reunião". Através do Resumo da Reunião, você pode acessar um resumo completo ou visualizar resumos personalizados para indivíduos ou participantes específicos. Se você está curioso sobre a própria conversa, você pode verificar e revisar a transcrição criada pelo Copilot do Brity Meeting através do Registro de Conversação. Esta é a etapa final para o documento redigido. Embora o rascunho do documento Word contenha todo o conteúdo necessário, ele ainda não foi formatado de acordo com um modelo padrão. Você pode pedir ao Copilot para converter o formato do documento e revisá-lo para um formato de relatório padrão. Modelos padrão para formato, indentação, espaçamento de linhas, fonte e outros elementos podem ser predefinidos, permitindo a conversão automática para que os usuários possam se concentrar no conteúdo do próprio relatório. Se parte do relatório precisar ser convertida em uma tabela, o Copilot pode criar a tabela automaticamente, e a tabela gerada e sua interpretação podem ser adicionadas diretamente ao documento.

A Samsung SDS está realizando um teste piloto dessa solução Brity Copilot. Com base nas experiências dos usuários, a aplicação em uma empresa com 1.000 funcionários poderia economizar 4.900 horas por mês e 4,3 bilhões de KRW anualmente, além de melhorar a eficiência do trabalho.

2. FabriX

A FabriX é uma plataforma que utiliza modelos generativos de IA específicos para empresas, a fim de aproveitar diversos recursos de conhecimento interno e externo, integrando-os com sistemas de negócios internos. É composta por um Portal de Chat e um Portal de Assistente para usuários, além de uma Plataforma (PaaS) que suporta o desenvolvimento e uso de diversos casos de uso. A área da Plataforma (PaaS) desempenha um papel crucial na implementação de serviços de IA generativa para empresas, consistindo de vários módulos, como LLMOps, RAG*, Filtro, Orquestrador e Segurança, que incluem funções como seleção de diferentes LLMs, vetorização para respostas baseadas em documentos e conexão com bancos de dados legados.

* RAG: Retrieval Augmented Generation

Arquitetura de serviço FabriX (Fonte: Samsung SDS)

A demonstração prosseguirá com as funções de "Catálogo de Conhecimento e Gerenciamento de Prompts" no "Portal de Chat" e um caso de uso para resumos de navegadores e notícias usando as APIs da área "Plataforma (PaaS)".

Q&A: Usando Automação RAG para os Manuais ou Documentos Mais Recentes
Modelos de Linguagem Grandes (LLMs) são modelos pré-treinados que não podem ser continuamente atualizados com os dados mais recentes. Portanto, para fornecer respostas precisas, é necessário usar a automação RAG, que permite que o LLM gere respostas finais aproveitando o conhecimento da empresa e documentos atualizados. Por exemplo, se você precisar de informações sobre os recursos do Galaxy S24, ler manualmente todo o manual para encontrar as informações necessárias levaria muito tempo. Para consultar o manual mais recente do Galaxy S24, no qual o LLM não foi treinado, você carregaria o manual do Galaxy S24 no Catálogo de Conhecimento do Portal FabriX-Chat. Durante esse processo, tarefas como "pré-processamento, divisão em pedaços, incorporação e vetorização" do arquivo são concluídas automaticamente, tornando-o pesquisável. Se esse processo fosse feito manualmente, exigiria especialistas e muito tempo. Em seguida, os usuários podem selecionar o manual do Galaxy S24 registrado no Catálogo de Conhecimento do Portal de Chat e escolher o tipo de conversa como baseada em conhecimento, permitindo-lhes fazer perguntas sobre os recursos do Galaxy S24.

Uma tela registrando o Catálogo de Conhecimento (Documento) no Portal FabriX-Chat (Fonte: Samsung SDS)

Desta forma, não apenas manuais de produto, mas também diversos manuais de trabalho e conhecimento empresarial podem ser processados de maneira semelhante para perguntas e respostas ou resumos. Em tarefas de P&D ou marketing, onde entender os últimos artigos de pesquisa externa ou tendências é crucial, dezenas de artigos em inglês podem ser carregados simultaneamente através do Knowledge Catalog. Os usuários podem então consultar esses documentos e receber respostas traduzidas em coreano.

② Resumo/Tradução de Arquivos Grandes
As empresas frequentemente precisam resumir diversas informações para criar relatórios. Por exemplo, ao resumir um dos relatórios de insight (artigos) listados no site da Samsung SDS, os usuários podem selecionar "Iniciar Nova Conversa" no Portal FabriX-Chat, em seguida escolher "Resumo de Conteúdo (Arquivo)" e carregar o artigo em formato PDF ou Word. Posteriormente, eles podem selecionar o estilo de resumo desejado, como "Pontos de Tópico - em até 3 frases", e a língua preferida (coreano, inglês) para gerar um resumo no estilo desejado. A resposta em pontos de tópico também pode ser convertida em formato de tabela, a pedido, através de um prompt.

③ Gerenciamento de Prompts
O envio de informações resumidas por e-mail, traduções e outras tarefas repetitivas pode ser padronizado para reuso. O Portal FabriX-Chat oferece modelos de prompt que permitem aos usuários utilizar modelos predefinidos ou criar e compartilhar seus próprios prompts com outros através do recurso Prompt Studio.

No caso de um prompt de rascunho de e-mail predefinido, você pode inserir/selecionar detalhes como remetente, destinatário, conteúdo do e-mail, estilo (por exemplo, amigável), comprimento e idioma. Após executar o prompt, ele gerará um rascunho de e-mail no formato desejado. Para criar um modelo de prompt personalizado, os usuários podem selecionar "Criar Novo Modelo" no menu de modelos de prompt e escolher entre as opções "Recomendado para Iniciantes" ou "Avançado" para personalizar o modelo de acordo com suas necessidades. Ao selecionar "Avançado (Criar no Prompt Studio)", você pode inserir o título e o corpo do novo modelo de prompt. Intitule-o como "Meu Modelo de E-mail de Convite para Evento" e, no corpo, utilize o exemplo de rascunho de e-mail - com variáveis como propósito, situação de fundo, conteúdo a ser transmitido, tom e destinatário do e-mail, juntamente com {valores de entrada de variáveis} - para criar um prompt para escrever o e-mail, adicionando um campo (variável) para "local do evento". Cada variável permite opções como entrada multilinha e definição de se é obrigatória ou não. Você também pode definir o papel, idioma, modelo LLM e configurações de visibilidade para o modelo antes de registrá-lo e usá-lo. Atualmente, os clientes que utilizam o FabriX consideram o recurso de modelo de prompt personalizado de alto valor.

Uma tela que cria um novo modelo para prompts personalizados no FabriX-Chat Portal (Fonte: Samsung SDS)

④ Uso do Caso: Navegador e Resumo de Notícias
Os usuários podem aproveitar diversos serviços de API, como RAG, LLMOps e Filter, da Plataforma FabriX (PaaS) para desenvolver casos de uso.

Um desses casos de uso é o Copiloto de Navegador, que integra a funcionalidade de chat ao navegador. Nesse caso de uso, um painel do Copiloto aparece do lado direito do navegador. O conteúdo da notícia será automaticamente resumido quando o usuário clicar em um artigo de notícias externo na Internet, do lado esquerdo. Além disso, os usuários podem selecionar partes específicas do conteúdo detalhado da notícia, e o Copiloto automaticamente resumirá ou traduzirá essas seções.

Outro caso de uso fornecido é o recurso de Resumo de Notícias. Marketing, relações públicas e executivos muitas vezes precisam entender rapidamente a essência das notícias. No caso de uso de Resumo de Notícias, os usuários podem carregar uma imagem PDF de um jornal impresso. A função OCR converte a imagem em texto e gera um resumo. O resumo é formatado como um documento Word usando um modelo de resumo específico, e os usuários podem baixar o resultado através da opção "Baixar Resumo". Além disso, usando as APIs da Plataforma (PaaS), os usuários podem integrar diversas soluções ou sistemas internos relacionados a RH e assuntos gerais para expandir e adicionar novos casos de uso.

A FabriX da Samsung SDS oferece não apenas um LLM proprietário, mas também capacidades Multi-LLM que permitem aprendizado específico do cliente. Com experiência em otimização de RAG e prompts, a FabriX fornece respostas altamente precisas. Atualmente, a plataforma é utilizada globalmente por mais de 100.000 clientes e possui numerosos casos de uso validados.

Referências
[1] https://www.mk.co.kr/news/culture/11006684
[2] https://www.autodaily.co.kr/news/articleView.html?idxno=513595
[3] https://www.digitaltoday.co.kr/news/articleView.html?idxno=516804

▶ Este conteúdo é protegido pela Lei de Direitos Autorais e é de propriedade do autor ou criador.
▶ É proibido o processamento secundário e o uso comercial do conteúdo sem a permissão do autor/criador.

Eunju Hong

Strategic Marketing Team at Samsung SDS

Had been in charge of digital transformation in samsungsds.com, solution page planning/operation, based on her work experiences in IT trend analysis, process innovation, and consulting business strategy, and is now in charge of content planning and marketing through trend/solution analysis for each main business sector of SDS.

Preparando-se para a Era da IA Generativa

O Presente e o Futuro da IA

사람은 질의/지시만! 생성형 AI가 스스로 연결, 생성, 분석 수행

Soluções de IA Generativa da Samsung SDS

brity Copilot

FabriX

Brity Automation

1. Brity Copilot

2. FabriX