In che modo G2 si avvicina alla moderazione delle revisioni nell'era dell'IA generativa
Pubblicato: 2023-07-24Non biasimerai un esploratore per il suo amore per la bussola.
Le tecnologie innovative rendono difficile limitare la nostra eccitazione. Quando arriva qualcosa che ha un impatto radicale sul modo in cui lavoriamo o interagiamo con il nostro mondo, vogliamo abbracciarlo.
A volte è meglio prendere un po' di tempo per scavare un po' di più, anche quando vorremmo pensare che qualche nuovo strumento o invenzione sia una panacea. Senza comprendere le sfumature e le implicazioni, scivolare a capofitto in casa base potrebbe essere più rischioso di quanto pensassimo.
L'era dell'intelligenza artificiale generativa (AI) è qui. Mentre ci addentriamo in questo nuovo capitolo della storia umana, la corsa è aperta per vedere come adottare questa nuova tecnologia. In questo articolo, esploreremo come l'IA generativa si applica alle recensioni di software B2B e la posizione di G2 al riguardo.
Innovazione a rotta di collo
Strumenti di intelligenza artificiale generativa come DALL-E 2 e ChatGPT hanno fatto notizia per la prima volta alla fine del 2022. A pochi mesi dall'inizio del 2023, l'adozione e l'interesse per la tecnologia AI sono esplosi. Con sempre più fornitori di software che esplorano come integrare l'IA per creare nuove soluzioni, i professionisti di tutti i settori lo stanno salutando come una nuova frontiera per le aziende.
Alcuni sostengono che l'IA generativa abbia il potenziale per aumentare il PIL globale del 7% entro il 2030. D'altra parte, molti prevedono come questa tecnologia potrebbe avere un impatto sul mercato del lavoro globale. Resta da vedere quale sarà la portata, ma gli esperti suggeriscono la probabilità che cambi il modo in cui lavoriamo molto presto.
Sebbene sia nota soprattutto per la generazione di output di testo e immagini, l'IA generativa ha il potenziale per fare altre cose come scrivere codice e aiutare con l'analisi dei dati. In un'iterazione di ChatGPT, un utente ha utilizzato con successo questo strumento per creare una versione giocabile di Pong in meno di 60 secondi.
L'IA generativa ha implicazioni di vasta portata, indipendentemente dal settore. Ma poiché questa tecnologia sta facendo progressi a un ritmo così rapido, presenta anche sfide uniche e potenziale di abuso da parte di malintenzionati. Prima di stabilire una connessione tra questa tecnologia innovativa e le politiche e i processi di G2 relativi alla moderazione delle recensioni, è importante stabilire un contesto sull'IA generativa.
Sfide di una tecnologia entusiasmante nelle prime fasi
I contenuti generati dall'intelligenza artificiale sono destinati a rivoluzionare la creazione di contenuti nei prossimi anni e probabilmente a sconvolgere le industrie creative esistenti. Poiché questa tecnologia è ricca di tale potenziale, esiste anche un'enorme possibilità di abuso diffuso.
Non si può negare che l'IA generativa sia impressionante. Tuttavia, considera le seguenti sfide e rischi prima di immergerti.
- Preoccupazioni etiche e sul copyright: molti oppositori dei contenuti generati dall'intelligenza artificiale notano le preoccupazioni etiche al riguardo. Poiché questi modelli si basano su contenuti esistenti, citare fonti e dare credito diventa complesso. Dagli studenti universitari che usano l'IA a scrivere tesine a "prendendo in prestito" il codice su vasta scala, il rischio di plagio e violazione del copyright è molto reale.
- Qualità del contenuto : In generale, gli strumenti di intelligenza artificiale generativa sono convincenti. Ma come ti dirà qualsiasi scrittore o artista, non sostituiranno presto i lavori umani. Il futuro dell'IA sarà probabilmente una combinazione di tecnologia e operatori umani, ma non aspettarti di sostituire ancora il tuo team creativo con questi strumenti.
- Disinformazione e imprecisioni: In modo simile alla qualità dei contenuti, l'IA generativa ha poco in termini di prevenzione output imprecisi, falsi o fuorvianti . La pubblicazione di contenuti imprecisi può danneggiare la reputazione di un marchio, quindi è fondamentale rimanere vigili sul controllo dei contenuti generati dall'intelligenza artificiale.
- Pregiudizi appresi: Un altro aspetto sollevato dai critici dei contenuti generati dall'intelligenza artificiale è che i loro modelli utilizzano contenuti umani. L'argomento è che, poiché gli esseri umani hanno pregiudizi impliciti ed espliciti, questi modelli di intelligenza artificiale imparare questi modelli e comportamenti .
La nostra posizione sull'IA generativa e le revisioni del software
Con oltre 2 milioni di recensioni da persone reali, G2 è il mercato più grande del mondo per il software B2B. Arrivare a questo punto ha richiesto un sacco di duro lavoro e dedizione da parte del nostro team. Ma non sarebbe possibile senza rispettare il potere di recensioni imparziali e autentiche.
Alla base di tutto, sappiamo che gli esseri umani si fidano delle esperienze degli altri, motivo per cui diamo la priorità alla qualità delle recensioni rispetto alla quantità. Gli acquirenti si affidano a G2 per la ricerca e la valutazione del software perché facciamo tutto il possibile per garantire l'autenticità, come ad esempio:
- Verifica dell'identità di ogni utente su G2.
- Sfruttando oltre 43 punti dati per valutare l'autenticità.
- Controllo di ogni recensione utilizzando linee guida rigorose.
G2 adotta un approccio imparziale per moderare le recensioni. Il nostro obiettivo è garantire che ogni recensione sia l'onesta opinione dell'esperienza del recensore con un prodotto. Inoltre, monitoriamo attivamente i modelli che indicano un comportamento fraudolento. Quando si verificano tali casi, eseguiamo un controllo approfondito, rimuoviamo le revisioni in questione e implementiamo le misure necessarie.
A causa del nostro impegno nei confronti del feedback imparziale degli acquirenti, le recensioni che utilizzano l'intelligenza artificiale generativa per scrivere la maggior parte dei contenuti non soddisfano le linee guida della community di G2 .
Mentre rimaniamo fermi sul fatto che le recensioni dovrebbero provenire da persone reali, l'unica eccezione è l'utilizzo di assistenti di scrittura AI. Fintanto che lo strumento mira solo a migliorare la leggibilità, la grammatica e l'ortografia, invitiamo i revisori a utilizzare questi strumenti.
Vale anche la pena notare che G2 sta valutando attentamente i vantaggi dell'incorporazione di strumenti di intelligenza artificiale nell'esperienza di invio delle recensioni. Analogamente a come gli assistenti alla scrittura possono aiutare i revisori, miglioriamo costantemente il processo di invio generale.
In che modo la moderazione delle recensioni di G2 rileva i contenuti generati dall'intelligenza artificiale
Il nostro team ha un rigoroso processo di verifica e controllo per tutte le nuove recensioni inviate. A causa dell'enorme numero di recensioni che raccogliamo in un dato giorno, dobbiamo utilizzare una miscela ponderata di tecnologia all'avanguardia e membri del team ben addestrati con un occhio perspicace.
4K+
Revisioni generate dall'intelligenza artificiale G2 rifiuta ogni mese, rappresentando il 5-8% del totale delle revisioni inviate mensilmente.
G2 utilizza i principali strumenti e servizi di terze parti per rilevare i contenuti generati dall'IA negli invii di recensioni. Anche se non daremo la mano sulle specifiche tecnologie sfruttate, ti assicuriamo che utilizziamo alcuni dei software meglio recensiti sul mercato.
Gli strumenti a disposizione di G2 sono soluzioni di rilevamento dei contenuti di livello aziendale che scansionano e contrassegnano i contenuti generati dall'intelligenza artificiale. Dopo aver segnalato questo contenuto, il nostro team interno di moderatori qualitativi convalida queste istanze.
Buone intenzioni contro cattivi attori
È importante riconoscere che scoraggiamo e rifiutiamo le proposte che utilizzano l'IA generativa. A causa della nostra posizione sul potere delle recensioni autentiche, miriamo a rifiutare le recensioni quando i nostri processi rilevano contenuti generati dall'intelligenza artificiale, indipendentemente dal fatto che l'intento sia legittimo o fraudolento.
Oltre a utilizzare strumenti di terze parti, utilizziamo un modello ML interno che apprende dalla decisione di ciascun moderatore per rilevare recensioni fraudolente. Questo modello ML utilizza anche altri dati, come la cronologia delle recensioni di un utente, la presenza sui social media, il modello di invio, le azioni del browser, gli indirizzi IP, le informazioni sulla posizione e altro per rilevare attività fraudolente.
E mentre il rilevamento dei contenuti AI e il nostro modello ML aiutano a segnalare le recensioni false su larga scala, ci avvaliamo anche dell'esperienza specializzata dei nostri moderatori per controllare le recensioni che richiedono una valutazione più considerevole. Il nostro team è abile nell'identificare modelli comunemente associati ad attività fraudolente e nella creazione di efficaci pratiche di prevenzione delle frodi.
Gettare le basi per un futuro migliore con l'AI
Ci sono buone probabilità che il mondo sembrerà molto diverso nei prossimi anni a causa dell'esplosione della tecnologia dell'IA generativa. Innumerevoli creatori di contenuti e marchi dovranno adattare e padroneggiare questi strumenti per rimanere competitivi.
Ma per quanto possa fare bene questa tecnologia, lo stesso si può dire per i danni che potrebbe potenzialmente causare. G2 abbraccia e riconosce l'enorme vantaggio che presenta l'IA generativa. Tuttavia, riteniamo ancora che le recensioni siano affidabili solo quando provengono da esperienze di prima mano di persone reali.
Poiché crediamo nel potere delle recensioni autentiche, puoi sempre contare su G2 per difendere la voce del cliente.
Trova il software giusto con la potenza dell'intelligenza artificiale. Esplora un nuovo modo di fare ricerche con il chatbot Monty basato sull'intelligenza artificiale di G2.