Mantenerse alerta: detectar información errónea en el mundo de la IA

La primera vez que usó ChatGPT, probablemente pensó que los nuevos señores de los robots dominarían el mundo. Desde que se presentó, sabemos que las máquinas pueden aprender, pensar y tomar sus propias decisiones.

Pero probablemente no sea tan malo ya que Terminator aún no ha viajado en el tiempo. En la película, Skynet provoca una catástrofe nuclear. En realidad, los líderes mundiales pueden verse arrastrados por la desinformación y provocar una catástrofe nuclear. El potencial de daño por algoritmos manipulados, datos manipulados, afirmaciones exageradas o simplemente mentiras es infinito.

La vida se volverá similar a una casa de la risa de espejos. La verdad tendrá curvas y giros, y nadie estará seguro de qué realidad creer. Muchos sitios de noticias usan herramientas de IA como ChatGPT para crear contenido y posicionarse alto en Google. Los estilos son indistinguibles de los humanos, excepto en una situación en la que el texto en sí contiene oraciones como: "No puedo completar este mensaje", "como modelo de lenguaje de IA" o "Mi fecha límite es septiembre de 2021".

Detectar información errónea no será un paseo por el parque. es astuto Está disfrazado de titulares llamativos. Un gran ejemplo es la historia del arresto de Trump con fotos falsas. Se necesita escepticismo y buen ojo para detectar información errónea en el mundo de la IA. Así es como puedes hacerlo.

Tenga cuidado al usar IA

La razón por la que ChatGPT es el producto de más rápido crecimiento con 1 millón de usuarios es porque realmente ayuda a la productividad. Antes de que se introdujera, todo el mundo tenía que investigar manualmente. Escribes una pregunta en Google y obtienes muchos resultados. Según la jerarquía de confianza, selecciona los sitios web en los que confía. Google ha estado clasificando páginas durante 25 años, utilizando docenas de factores para determinar qué mostrarle.

Ahora, el proceso ha cambiado. Le haces una pregunta a ChatGPT y te da una respuesta en segundos. Pero en lugar de explorar la web en busca del mejor contenido, solo predice posibles combinaciones de palabras. Esto provoca la desinformación hecha por la IA. En The Social Dilemma, los ingenieros informáticos muestran el impacto de las redes sociales en el control del mundo. Incluso si una opinión pudiera cambiar en un uno por ciento en un período de tiempo lo suficientemente largo, podría tener un efecto masivo. Eventualmente, las redes sociales se convertirán en el campo de batalla de la desinformación creada por la IA. Es por eso que mantenerse alerta en este nuevo panorama es tan importante.

Relacionado: Inteligencia artificial en relaciones públicas y marketing: las tendencias futuras que pueden mejorar la eficiencia de sus campañas de relaciones públicas.

Desinformación intencional

Los piratas informáticos y los estafadores se frotaban las manos cuando OpenAI lanzó ChatGPT. Finalmente, tenían una herramienta para fabricar historias, imágenes y videos. El cibercrimen está aumentando rápidamente, especialmente porque puede pedirle al algoritmo que escriba sobre un tema específico al estilo de la desinformación. Puede generar datos falsos, citas inexistentes e historias convincentes para hacerte creer cualquier cosa.

Muchos expertos destacados en el campo han renunciado a sus trabajos para hacer sonar la alarma de que la humanidad necesita detener el desarrollo de esta tecnología antes de que aprendamos a controlarla. No hay forma de evitar que los malos actores lo usen con fines malvados. Crear ataques de phishing, información incorrecta y desinformación intencional es peligrosamente fácil.

Fuentes fabricadas

Cuando lee un artículo, ver una lista de fuentes lo hace más confiable. Bueno, ChatGPT es famoso por inventar fuentes. Por supuesto, puede generar los correctos, pero eso no significa que no salpicará las listas con algunos falsos. La parte salvaje de esto es que las citas generadas son plausibles. Suenan similares a revistas de renombre y tienen coautoría con gran reputación. Si no se toma el tiempo de verificar las fuentes, es fácil caer en la trampa.

Otro escenario que ocurre a menudo son las respuestas contradictorias a la misma pregunta. Cuando se le pide que aclare las diferencias en las respuestas, ChatGPT responde: "A veces cometo errores". Debido a que las respuestas son muy diferentes, podrías encontrarte con una verdad o una mentira.

¡Mejore su verificación de datos!

No confíes en nada en Internet sin hacer tu propia investigación. Los motores de búsqueda tradicionales existen desde hace mucho tiempo. Google sigue siendo el mejor lugar para verificar si la información es verdadera o falsa. Pero surge un nuevo problema cuando pasas mucho tiempo en las redes sociales. La mayoría de las personas pasan demasiado tiempo en Tik Tok, Reels o cortos de YouTube. Ves personas haciéndose pasar por expertos creando contenido sobre un tema o evento específico. Está en nuestra naturaleza confiar en otras personas.

A veces, ves un video de un minuto sobre un tema delicado y es difícil confiar en él. Luego, ves algunos más. Sin pensarlo, te formas una opinión en base a lo que el algoritmo decidió mostrarte. Aunque sepa que está viendo esos videos por puro entretenimiento, pueden tener un impacto en lo que piensa.

Manténgase alerta

En el futuro, probablemente habrá verificadores de hechos de IA (como si los generadores de texto no fueran suficientes). Pero antes de que llegue ese momento, debemos hacer el trabajo duro nosotros mismos. Estar alerta es extremadamente importante. Tu amigo podría enviarte un video corto relacionado con un problema que podrías estar experimentando.

En lugar de confiar en todo lo que ve en línea, es mejor identificar y evaluar las fuentes de información. Esto es extremadamente importante para temas como el cambio climático, vacunas o enfermedades graves. No existe un producto mágico o una combinación de hierbas que curen el cáncer. No hay forma de que el cambio climático se revierta en un día. Y no hay forma de combatir las enfermedades sin vacunas. La tierra no es plana. Estos temas requieren que seas deliberadamente reflexivo. Tómese el tiempo para examinar las fuentes y hacer una investigación real.

Ver también: ¿ Cómo la inteligencia artificial está cambiando el desarrollo de software?

Usar herramientas

En 2016, las elecciones de los Estados Unidos se hicieron famosas por el contenido ruso falso lleno de errores gramaticales. Con la IA disponible y un conflicto en Ucrania, el potencial para otro intento de noticias falsas es enorme. Pero ahora, no habrá errores gramaticales ni déficits estilísticos.

Los malos actores pueden crear y reutilizar aún más contenido para todas las plataformas de redes sociales. Las vistas, los comentarios y los "me gusta" falsos son fáciles de manipular. Agregue además de eso algunas falsificaciones profundas de líderes que dicen algo que se supone que no deben hacer, y puede convencer al público para que crea cualquier cosa.

Las firmas digitales podrían ayudar a determinar si el contenido en línea está hecho por humanos. Las herramientas de IA de marca de agua como ChatGPT son otra opción. Pero desarrollar estas soluciones lleva tiempo. Por ahora, la forma más fácil de no ser un objetivo es usar una VPN.

Las redes privadas virtuales lo hacen privado en línea, lo que hace imposible que los especialistas en marketing, los gobiernos o los malos actores conozcan sus datos demográficos. No recibirá cookies de sitios web, lo que significa que no recibirá anuncios dirigidos ni noticias falsas.

Además, puedes cambiar tu ubicación a cualquier lugar del mundo. En lugar de estar en medio de una guerra de información, puede cambiar su IP a otro lugar. Las VPN también lo protegen de los piratas informáticos al cifrar sus datos.

Esta herramienta es como magia porque puede optar por no discriminar precios. Las cosas que cuestan mucho más dinero en los Estados Unidos cuestan menos en países con economías más débiles. Puede cambiar su ubicación y comprar un producto digital por la mitad del precio con un solo clic de un botón. Usar VPN para obtener vuelos y hoteles más baratos también es excelente, porque puedes fingir que eres local.

Informa a los que te rodean

Cuando alguien se forma una opinión fuerte, es casi imposible cambiar de opinión. Si alguna vez ha discutido con un teórico de la conspiración, probablemente sepa lo difícil que es. Con una epidemia de noticias falsas bullendo bajo nuestros pies, es esencial que todos mejoren su alfabetización digital. Los adolescentes, maestros, padres y profesionales de todo el mundo deben ayudar. Hay herramientas en línea para apoyar la alfabetización digital, pero eso no es suficiente.

Es necesario generar conciencia sobre el problema y los pasos concretos que se deben tomar para verificar la información. Incluso si no usa ChatGPT o herramientas similares, probablemente haya encontrado algo generado por él. Buscar información requiere tiempo y esfuerzo, y depende de cada uno de nosotros determinar si vale la pena.

Relacionado: El futuro de la comunicación VoIP: cómo la inteligencia artificial está revolucionando la forma en que nos conectamos.

Algunas palabras finales

El reino salvaje de la IA está lleno de información errónea. Pero si sigues la verdad, te sentirás como si tuvieras un superpoder en un mundo digital lleno de mentiras. La desinformación ha existido durante miles de años, pero ahora se adaptó y evolucionó para la era moderna de la IA. Mantenerse alerta en la era de la desinformación es esencial.

Cada vez que vea un titular que suene demasiado bueno o demasiado absurdo para ser exacto, deténgase por un segundo. Póngase su gorra de pensamiento crítico, sea curioso, verifique dos veces las fuentes e intente usar un poco de escepticismo saludable.

La IA puede ser una fuerza del bien si se usa correctamente, pero no hay forma de evitar que los malos actores la usen para su beneficio personal. Difunda la conciencia entre las personas más cercanas a usted y puede crear un efecto dominó en el que todos se vuelvan mejores para detectar noticias falsas e información errónea producida por IA.