Las claves de ChatGPT y las inteligencias artificiales generativas: ¿cuáles son sus riesgos y limitaciones?

La inteligencia artificial (IA) no se instaló entre nosotros en 2022, pero sí se convirtió en un concepto popular. Por “popular” queremos decir que pasó de ser algo técnico al alcance exclusivo de empresas y expertos, difícil de traducir fuera de ámbitos profesionales, a convertirse casi en una commodity, un bien de consumo con el que experimentar, jugar y crear. ChatGPT ha sido el último empujón recibido por un mercado en el que la innovación no se ha detenido y que se encuentra en un punto clave para su implantación y adopción, de forma generalizada. Ahora bien, ¿cómo funciona realmente ChatGPT y qué riesgos puede tener en el campo de la comunicación y el marketing

Qué es ChatGPT  

Para empezar, describamos lo que es ChatGPT. Se trata no de una plataforma, aunque interactuemos con él a través de una interfaz de usuario, sino de un modelo de lenguaje. Creado por OpenAI, una iniciativa sin ánimo de lucro impulsada por Elon Musk (creador y dueño de Tesla y SpaceX, y polémico propietario de Twitter) y Sam Altman (ex presidente de la aceleradora Y Combinator), permite generar respuestas coherentes a preguntas o comentarios que se le formulen, todo ello empleando una interlocución en forma de chat. Cuando lanzamos una cuestión o dialogamos con este modelo, ChatGPT analiza el texto y emplea los conocimientos y habilidades aprendidas durante el entrenamiento al que ha sido sometido para crear una respuesta con sentido. Este detalle es clave: proporciona respuestas coherentes, pero no exactas, fiables o infalibles

ChatGPT es un modelo de lenguaje que permite generar respuestas coherentes a preguntas o comentarios”

ChatGPT es lo que llamamos una inteligencia artificial generativa, lo que significa que es capaz de crear o generar contenido nuevo y original a partir de un conjunto de datos o de una plantilla que se le haya facilitado. Las IAs generativas se emplean en todo tipo de aplicaciones, como la creación de texto, imágenes, música (sí: música también) y vídeo. En el terreno de la generación de imágenes es donde, hasta la fecha, los resultados habían sido más espectaculares y las soluciones disponibles, más variadas. Midjourney, Stable Diffusion o Dall-E 2 son solo tres de las herramientas disponibles. Algunas ya están integrándose en plataformas para la edición de contenidos más populares. Es el caso de Freepik, que proporciona este servicio a través de WePik, su editor de imágenes con el que compite con entornos como Canva

Vista de ChatGPT antes de iniciar una conversación.
Vista de ChatGPT antes de iniciar una conversación.

De qué dependen las respuestas de ChatGPT 

Para su funcionamiento, ChatGPT cuenta con una serie de elementos y características que determinan el resultado de sus respuestas:

  • A nivel técnico, utiliza una red neuronal con una arquitectura transformer que le permite procesar textos y producir respuestas. Hagamos un alto. ¿Qué es eso de “arquitectura transformer”? Se trata de un modelo de procesamiento del lenguaje natural que se emplea en el aprendizaje automático o machine learning. Permite comprender los idiomas hasta el punto de ser capaz de realizar traducciones muy aproximadas, resumir textos o, por supuesto, responder preguntas. Esta arquitectura cuenta con diferentes capas de atención múltiple, lo que facilita al modelo (ChatGPT) considerar diferentes partes de entrada al mismo tiempo y procesarlas de forma simultánea en vez de palabra por palabra. 
  • Carece de acceso a información adicional y no es capaz de realizar búsquedas en internet. Los datos que maneja se limitan a lo aprendido en su proceso de entrenamiento y en aquello que puede inferir del texto facilitado y del contexto que se le proporciona. Eso no significa, sin embargo, que no se pueda usar su API (interfaz de programación) para combinar la potencia generativa con bases de datos o con el contenido indexado por motores de búsqueda. Ya hay usuarios logrando avances en este sentido. 
  • ChatGPT se ha alimentado de millones de documentos que le permiten entender el lenguaje natural. Este proceso es el que le ha proporcionado la información que gestiona y con la que responde de forma coherente, es decir, plausible. Sus respuestas tienen sentido gramatical y semántico, pero no necesariamente se pueden juzgar como verdaderas o falsas; serán una cosa u otra en función de lo que haya aprendido y lo que le indiquemos nosotros. Si le decimos que miente y que dé otra respuesta… dará otra respuesta. 
  • ChatGPT, en efecto, puede mentir, pero no de forma consciente. Su objetivo es, en sus palabras, ayudar a “entender mejor las cosas” y proporcionar “información precisa y útil”. Como modelo, carece de opiniones y no se rige por emociones o motivaciones personales. 

Los riesgos de ChatGPT: de los sesgos del lenguaje a la falta de sensibilidad 

La fiabilidad de este sistema no solo se ve afectada por la veracidad de la información que proporciona. Aunque se esfuerce por ofrecer contenido práctico, útil y válido, se ve afectado por los sesgos cognitivos con los que se creó el material utilizado en su proceso de aprendizaje. De hecho, es consecuencia de las tendencias, a menudo torticeras, con las que se generan los contenidos en la actualidad. Por ejemplo, si el conjunto de datos empleado para entrenar a ChatGPT incluía una mayor cantidad de texto escrito por hombres frente al escrito por mujeres, es posible que el contenido generado no sea capaz de incluir una perspectiva femenina de forma equilibrada. Lo mismo sucede con los idiomas; si el modelo no tuvo acceso a suficientes datos en un lenguaje minoritario, probablemente sus resultados en dicho idioma pierdan coherencia. 

“El contenido de ChatGPT se ve afectado por los sesgos cognitivos con los que se creó el material utilizado en su proceso de aprendizaje” 

 

Dicho esto, ¿cuáles serían los principales riesgos de utilizar ChatGPT? Vamos a dejar que conteste él mismo: 

  • Dependencia excesiva para obtener información o tomar decisiones
  • Falta de precisión. Es importante verificar los resultados que proporciona antes de tomar decisiones basándose en ellos. 
  • Dificultad para comprender el contexto o el tono de las preguntas o de los comentarios. 
  • Falta de sensibilidad, puesto que carece de emociones y no entiende el impacto que pueden provocar sus respuestas. 
  • Riesgo de uso inadecuado. Si bien advierte contra solicitudes que pueden ser inadecuadas o ilegales, como pedirle detalles sobre cómo hackear un sistema informático, no está exento de que pueda proporcionar información que se utilice de manera inadecuada. Tampoco la impide porque no está pensado para ello… todavía. 

Con todo esto, y siendo conocedores de sus limitaciones y posibilidades, 2023, sin duda, va a ser un año de expansión de la inteligencia artificial. Desde Incógnito, estamos seguros de que surgirán nuevas innovaciones que aprovechen las posibilidades de las IAs generativas para simplificar los procesos creativos y agilizar nuestro trabajo. Pero seguiremos siendo necesarios como humanos. Desde Incógnito, no nos cabe la menor duda. 

Artículos relacionados

Contacta con incógnito

Agenda una llamada para más información

Logotipo de agencia Incógnito

¿Quieres formar parte de Incógnito?

  • Tamaño máximo de archivo: 4 MB.