Foto: Getty images.
OpenAI, la empresa pionera detrás de ChatGPT, ha tomado medidas drásticas al eliminar un bot que imitaba la voz de un candidato presidencial estadounidense, marcando una delimitación ética en el uso de la Inteligencia Artificial (IA) en campañas políticas.
El incidente se desencadenó cuando un grupo político que respalda al congresista estadounidense Dean Phillips encargó a una empresa con sede en Miami la creación de un chatbot. Esta herramienta permitiría a los usuarios interactuar con el candidato mediante un formato de pregunta y respuesta, llevando la interacción política a un nuevo nivel.
OpenAI tomó la decisión de eliminar el bot y declaró a The Washington Post: "Recientemente, eliminamos la cuenta de un desarrollador que estaba violando conscientemente nuestra política de uso de API (o plataforma), que no permite hacer campañas políticas o hacerse pasar por un individuo sin su consentimiento".
La rápida expansión de la IA generativa ha avivado temores sobre su posible uso para causar caos político mediante información errónea o clones de IA, especialmente en un año con un calendario electoral global significativo.
La empresa anunció la semana pasada que proporcionará a los usuarios herramientas para mitigar posibles daños causados por su tecnología.
El "Dean-bot" fue desarrollado como una herramienta informativa sobre el candidato de las primarias del Partido Demócrata que compite contra el presidente Joe Biden. Sin embargo, su eliminación se hizo imperativa después de que The Washington Post lo promocionara en un artículo.
La startup Delphi, encargada de desarrollar el bot, emitió disculpas a OpenAI y al grupo político "We Deserve Better", que es codirigido por un exmiembro del equipo del director ejecutivo de OpenAI, Sam Altman, y está respaldado por inversores de Silicon Valley.
