Infor explica como funciona la Inteligencia Artificial Generativa en las empresas

Se ha advertido de su potencial para provocar la extinción de la humanidad, se ha afirmado que supone una amenaza para la seguridad nacional, se ha pedido que se interrumpa durante al menos seis meses el entrenamiento de las IA a partir de cierta capacidad y hasta el "Padrino" de la IA ha presentado su dimisión.

Los modelos de IA generativa (GenAI), como ChatGPT, parecen ser algunos de los más discutidos, con mucho debate en torno a su potencial para transformar nuestra vida cotidiana. Pero ¿qué ocurre en el entorno empresarial? ¿Cómo pueden aprovechar las empresas el potencial de esta tecnología realmente transformadora y con qué fin?

Aunque la aparición de la IA Generativa es aún bastante incipiente, nos encontramos sin duda en un punto de inflexión en cuanto a la IA y la informática en general. La mayoría de los grandes modelos lingüísticos que están causando sensación en el espacio de la IA generativa son buenos en el procesamiento del lenguaje natural (PLN). En multitud de sectores, estos modelos GenAI pueden ayudar con aplicaciones basadas en la PNL, como proporcionar ayuda interactiva. También se pueden exponer la base de conocimientos, los manuales de usuario final y la documentación a través de un chatbot interactivo basado en GenAI, lo que facilitará enormemente la búsqueda de información a los usuarios.

Otro beneficio inmediato, aunque con un reto considerablemente mayor, es proporcionar una capacidad de búsqueda sobre datos empresariales, basada en NLP, y que abarque toda la compañía. Se trata, por supuesto, de un espacio en constante evolución, en el que las empresas de software como Infor ya están investigando cómo los modelos de GenAI pueden complementar las soluciones de PLN existentes y las ofertas de IA. Por ejemplo, mejorando las experiencias contextuales, integrando funciones de chat de voz con asistentes digitales o modelos de aprendizaje automático (ML) a través de plataformas de IA y ampliando la búsqueda empresarial a funciones de reconocimiento de imágenes.

Como los modelos de GenAI permiten a los usuarios aprovechar diversas fuentes de datos para generar texto y código, formular predicciones y resúmenes, realizar traducciones, analizar imágenes y mucho más, pueden utilizarse para una gran variedad de casos de uso empresarial. Por ejemplo, para redactar correos electrónicos, informes, documentación de productos y contenidos web; crear descripciones de puestos de trabajo y solicitudes de empleo; realizar comparaciones de productos y proveedores, montar fotos, pistas de música y vídeos para campañas de marketing. También puede utilizar las habilidades de PNL de los modelos de GenAI para resumir libros, revisar y corregir cualquier contenido y aportar ideas para poner en marcha una iniciativa.

GenAI en acción

¿Cómo funciona esto en la práctica? Bueno, por ejemplo, las empresas con departamentos de TI e ingeniería de software pueden comenzar a aprovechar herramientas como Copilot de Microsoft o CodeWhisperer de AWS para la generación de código. Las empresas que necesiten crear sus propios modelos de lenguaje específicos para su sector pueden verificar información general, obtener reseñas y recomendaciones a través de la web, o combinar los datos privados de su empresa y enriquecerlos con información de dominio público, integrando herramientas y plataformas GenAI como ChatGPT de Open AI o AWS Bedrock.

Futuros desafíos

El ritmo del cambio en el mundo de la GenAI es rápido y las organizaciones que no respondan a tiempo pueden quedarse atrás. Lo ideal sería que las empresas adoptaran esta potente tecnología en lugar de rechazarla. Pero eso definitivamente no significa que una "talla única" se adapte a todas las empresas cuando se trata de modelos GenAI. Por este motivo, existen una serie de desafíos que deben abordarse antes de que los modelos GenAI puedan ser adoptados de forma integral en entornos empresariales.

En primer lugar, está la cuestión de la fiabilidad. Aunque el contenido generado a partir de un gran modelo lingüístico parezca original, en realidad está imitando un patrón basado en un conjunto de datos de entrenamiento similar al que ha sido expuesto. Muchas veces, se sabe que la información generada es falsa. Y la misma pregunta puede generar respuestas diferentes.

En segundo lugar, tenemos problemas de privacidad. Los datos y las condiciones de entrada que comparten los usuarios se utilizan para entrenar el modelo de IA Generativa. En este proceso, pueden compartirse datos comerciales confidenciales o datos de identificación personal, lo que inadvertidamente daría lugar a infracciones. Además, la generación y el intercambio de contenido específico del negocio deben cumplir con estrictos requisitos legales y de privacidad de datos; por ejemplo, cuando las empresas realizan una Evaluación de Impacto de Protección de Datos (DPIA), deben garantizar el cumplimiento del Reglamento General de Protección de Datos (GDPR). La mayoría de los proveedores de plataformas GenAI sí ofrecen la posibilidad de mantener los datos de su empresa en exclusiva y no utilizarlos para fines de formación general, pero es importante que las empresas que planeen utilizar GenAI tengan esto en cuenta.

Luego está la cuestión de la parcialidad. El contenido generado por la IA está hecho a medida en función de los datos introducidos. También se puede entrenar el modelo utilizando solo los datos favorables sin exponerlo a toda la información. En última instancia, se puede moldear el resultado de la forma que se desee, lo cual es una "espada de doble filo". El tono del contenido generado podría ser de autoridad, mientras que en realidad podría tratarse de una opinión subjetiva y sería fácil manipular a un usuario crédulo e influir en sus opiniones de forma bastante convincente. Además, el riesgo de generar noticias o vídeos y clips de audio falsos será cada vez mayor.

Filtros de moderación

Esto no quiere decir que estos retos sean insuperables. Una forma de combatir estas amenazas es aplicar los filtros de moderación adecuados en la interfaz de usuario final, a través de la cual los usuarios "normales" pueden utilizar las herramientas GenAI. Sin duda, para el uso empresarial, las empresas deben seguir un enfoque de "intermediación humana", es decir, todo el contenido generado debe ser moderado por una persona real antes de ser desplegado para su consumo general. El control y la moderación humana serán necesarios durante algún tiempo para aumentar la precisión y coherencia de los contenidos generados, ayudar a reducir los sesgos sociopolíticos y garantizar que la ventaja competitiva de una empresa no se vea comprometida.

Teniendo en cuenta todo lo anterior, las empresas necesitan desarrollar un punto de vista propio sobre cómo la GenAI se aplica a ellas. Además, será vital seguir las mejores prácticas de los proveedores de esta tecnología, por ejemplo, el uso de filtros de moderación de Open AI. Lo que también estamos viendo es que los distintos países se están dando mucha prisa en elaborar sus propias políticas de IA, algo que las empresas también tendrán que tener en cuenta, asegurándose de que se cumple la política local, siguiendo los protocolos adecuados según lo establecido por los respectivos gobiernos.

Rápida evolución

En cuanto a cómo evolucionará la IA Generativa en los próximos cinco a diez años, se espera que las inversiones en la tecnología aumenten enormemente, tanto en términos de generación de mejores modelos como en cuanto a espacio hardware, con chips más rápidos y potentes y la necesidad de mayores anchos de banda de red. No hay que subestimar su impacto. Todo el contenido multimedia que consumamos en los próximos años se verá influido por la GenAI; la búsqueda en Internet, tal y como la conocemos, se orientará más hacia una experiencia personalizada y conversacional; las herramientas que detectan contenido generado por la IA serán cada vez más inteligentes, y la normativa y el cumplimiento serán cada vez más estrictos.

ChatGPT y otros modelos de GenAI representan soluciones disruptivas que ya están ayudando a los consumidores a mejorar el proceso de búsqueda, automatizar la creación de contenidos e impulsar la productividad individual. Aunque creemos que las empresas adoptarán rápidamente esta potente tecnología, también esperamos que sean conscientes de los riesgos potenciales, la imprecisión y los problemas de privacidad que conlleva. Naturalmente, es solo cuestión de tiempo que el espacio GenAI madure y aborde estas preocupaciones. Mientras tanto, con el control y la moderación
humanos, los modelos GenAI tienen el potencial de revolucionar los entornos empresariales.