Cómo aborda G2 la moderación de reseñas en la era de la IA generativa
Publicado: 2023-07-24No culparías a un explorador por su amor por la brújula.
Las tecnologías innovadoras hacen que sea difícil limitar nuestra emoción. Cuando surge algo que tiene un impacto radical en la forma en que trabajamos o interactuamos con nuestro mundo, queremos aceptarlo.
A veces es mejor tomarse un tiempo para profundizar un poco más, incluso cuando nos gustaría pensar que una nueva herramienta o invento es una panacea. Sin comprender los matices y las implicaciones, hacer ese deslizamiento de cabeza hacia el plato podría ser más arriesgado de lo que pensábamos.
La era de la inteligencia artificial generativa (IA) está aquí. A medida que avanzamos en este nuevo capítulo de la historia humana, comienza la carrera para ver cómo adoptar esta nueva tecnología. En este artículo, exploraremos cómo la IA generativa se aplica a las revisiones de software B2B y la postura de G2 al respecto.
Innovación a velocidades vertiginosas
Las herramientas de IA generativa como DALL-E 2 y ChatGPT aparecieron por primera vez en los titulares a fines de 2022. Apenas unos meses después de 2023, la adopción y el interés en la tecnología de IA se han disparado. Con más proveedores de software explorando cómo integrar la IA para crear nuevas soluciones, los profesionales de todas las industrias están aclamando esto como una nueva frontera para las empresas.
Algunos argumentan que la IA generativa tiene el potencial de impulsar el PIB mundial en un 7 % para 2030. Por otro lado, muchos prevén cómo esta tecnología podría afectar el mercado laboral mundial. Queda por ver cuál será el alcance, pero los expertos sugieren la probabilidad de que cambie la forma en que trabajamos muy pronto.
Aunque es más conocido por generar salidas de texto e imágenes, la IA generativa tiene el potencial de hacer otras cosas, como escribir código y ayudar con el análisis de datos. En una iteración de ChatGPT, un usuario utilizó con éxito esta herramienta para crear una versión jugable de Pong en menos de 60 segundos.
La IA generativa tiene implicaciones de gran alcance, independientemente de la industria. Pero debido a que esta tecnología avanza a un ritmo tan rápido, también presenta desafíos únicos y potencial de abuso por parte de malos actores. Antes de establecer la conexión entre esta tecnología innovadora y las políticas y procesos de G2 relacionados con la moderación de reseñas, es importante establecer el contexto sobre la IA generativa.
Desafíos de tecnología emocionante en fases tempranas
El contenido generado por IA está configurado para revolucionar la creación de contenido en los próximos años y probablemente interrumpirá las industrias creativas existentes. Debido a que esta tecnología está repleta de tal potencial, también existe una gran posibilidad de abuso generalizado.
No se puede negar que la IA generativa es impresionante. Sin embargo, considere los siguientes desafíos y riesgos antes de sumergirse.
- Inquietudes éticas y de derechos de autor: muchos opositores al contenido generado por IA señalan las preocupaciones éticas que lo rodean. Dado que estos modelos se entrenan en el contenido existente, citar fuentes y dar crédito se vuelve complejo. Desde estudiantes universitarios que usan IA hasta escribir trabajos finales para "tomar prestado" código a gran escala, el riesgo de plagio y de infracción de derechos de autor es muy real.
- Calidad del contenido : En términos generales, las herramientas de IA generativa son atractivas. Pero como cualquier escritor o artista te dirá, no reemplazarán los trabajos humanos en el corto plazo. Es probable que el futuro de la IA sea una combinación de tecnología y operadores humanos, pero no espere reemplazar a su equipo creativo con estas herramientas todavía.
- Desinformación e inexactitudes: De manera similar a la calidad del contenido, la IA generativa tiene poco en la forma de prevenir resultados inexactos, falsos o engañosos . La publicación de contenido inexacto puede dañar la reputación de una marca, por lo que es crucial permanecer atento a la verificación de contenido generado por IA.
- Sesgos aprendidos: Otro aspecto planteado por los críticos del contenido generado por IA es que sus modelos utilizan contenido humano. El argumento es que debido a que los humanos tienen sesgos implícitos y explícitos, estos modelos de IA aprender estos patrones y comportamientos .
Nuestra postura sobre la IA generativa y las revisiones de software
Con más de 2 millones de reseñas de gente real, G2 es el mercado de software B2B más grande del mundo. Llegar a este punto requirió mucho trabajo duro y dedicación de nuestro equipo. Pero no sería posible sin respetar el poder de las reseñas auténticas e imparciales.
En el centro de todo, sabemos que los humanos confían en las experiencias de los demás, por lo que priorizamos la calidad de las reseñas sobre la cantidad. Los compradores han llegado a confiar en G2 para investigar y evaluar software porque hacemos todo lo posible para garantizar la autenticidad, como por ejemplo:
- Verificación de la identidad de cada usuario en G2.
- Aprovechando más de 43 puntos de datos para evaluar la autenticidad.
- Verificación de cada revisión utilizando pautas estrictas.
G2 adopta un enfoque imparcial para moderar las reseñas. Nuestro objetivo es garantizar que cada reseña sea la opinión honesta de la experiencia del revisor con un producto. También monitoreamos activamente los patrones que indican un comportamiento fraudulento. Cuando ocurren tales instancias, realizamos una auditoría exhaustiva, eliminamos las revisiones en cuestión e implementamos las medidas de cumplimiento necesarias.
Debido a nuestro compromiso con los comentarios imparciales de los compradores, las reseñas que usan IA generativa para escribir la mayoría del contenido no cumplen con las pautas de la comunidad de G2 .
Si bien nos mantenemos firmes en que las reseñas deben provenir de personas reales, la única excepción es el uso de asistentes de escritura de IA. Siempre que la herramienta solo tenga como objetivo mejorar la legibilidad, la gramática y la ortografía, invitamos a los revisores a utilizar estas herramientas.
También vale la pena señalar que G2 está considerando cuidadosamente los beneficios de incorporar herramientas de inteligencia artificial en la experiencia de envío de reseñas. Al igual que los asistentes de redacción pueden ayudar a los revisores, mejoramos constantemente el proceso general de envío.
Cómo la moderación de reseñas de G2 detecta contenido generado por IA
Nuestro equipo tiene un riguroso proceso de verificación y auditoría para todas las nuevas presentaciones de revisión. Debido a la gran cantidad de revisiones que recopilamos en un día determinado, debemos usar una combinación inteligente de la mejor tecnología de su clase y miembros del equipo bien capacitados con un ojo perspicaz.
4K+
Revisiones generadas por IA que G2 rechaza por mes, lo que representa entre el 5 y el 8 % del total de envíos de revisiones mensuales.
G2 utiliza herramientas y servicios líderes de terceros para detectar contenido generado por IA en los envíos de reseñas. Si bien no daremos una pista sobre las tecnologías específicas aprovechadas, tenga la seguridad de que utilizamos algunos de los software mejor evaluados del mercado.
Las herramientas a disposición de G2 son soluciones de detección de contenido de nivel empresarial que escanean y marcan contenido generado por IA. Después de marcar este contenido, nuestro equipo interno de moderadores cualitativos valida estas instancias.
Buenas intenciones vs malos actores
Es importante reconocer que desalentamos y rechazamos las presentaciones que utilizan IA generativa. Debido a nuestra postura sobre el poder de las reseñas auténticas, nuestro objetivo es rechazar las reseñas cuando nuestros procesos detectan contenido generado por IA, independientemente de si la intención era legítima o fraudulenta.
Además de utilizar herramientas de terceros, utilizamos un modelo de aprendizaje automático interno que aprende de la decisión de cada moderador para detectar reseñas fraudulentas. Este modelo de ML también utiliza otros datos, como el historial de revisión de un usuario, la presencia en las redes sociales, el patrón de envío, las acciones del navegador, las direcciones IP, la información de ubicación y más para detectar actividades fraudulentas.
Y si bien la detección de contenido de IA y nuestro modelo de ML ayudan a detectar reseñas falsas a gran escala, también incorporamos la experiencia especializada de nuestros moderadores para auditar las reseñas que requieren una evaluación más considerable. Nuestro equipo es experto en identificar patrones comúnmente asociados con actividades fraudulentas y crear prácticas efectivas de prevención del fraude.
Sentando las bases para un futuro más brillante con IA
Existe una buena posibilidad de que el mundo se vea muy diferente en los próximos años debido a la explosión de la tecnología de IA generativa. Innumerables creadores de contenido y marcas tendrán que adaptarse y dominar estas herramientas para seguir siendo competitivos.
Pero por mucho que esta tecnología pueda hacer, lo mismo puede decirse de los daños que podría causar. G2 acepta y reconoce las tremendas ventajas que presenta la IA generativa. Sin embargo, todavía creemos que las reseñas solo son confiables cuando provienen de experiencias de primera mano de personas reales.
Como creemos en el poder de las reseñas auténticas, siempre puede contar con G2 para defender la voz del cliente.
Encuentre el software adecuado con el poder de la IA. Explore una nueva forma de investigar con Monty, el chatbot impulsado por IA de G2.