Revelando el futuro de la IA

Publicado: 2023-06-30

Podcast de marketing con Kenneth Wenger

Kenneth Wenger, invitado en Duct Tape Marketing Podcast En este episodio de Duct Tape Marketing Podcast, entrevisto a Kenneth Wenger. Es autor, becario de investigación en la Universidad Metropolitana de Toronto y CTO de Squint AI Inc. Sus intereses de investigación se encuentran en la intersección de humanos y máquinas, asegurando que construyamos un futuro basado en el uso responsable de la tecnología.

Su libro más reciente, ¿El algoritmo está conspirando contra nosotros ?: Una guía para laicos sobre los conceptos, las matemáticas y las trampas de la IA. Kenneth explica la complejidad de la IA, demuestra su potencial y expone sus deficiencias. Empodera a los lectores para responder a la pregunta: ¿Qué es exactamente la IA?

Punto clave:

Si bien se ha logrado un progreso significativo en la IA, todavía estamos en las primeras etapas de su desarrollo. Sin embargo, los modelos actuales de IA realizan principalmente tareas estadísticas simples en lugar de exhibir una inteligencia profunda. El futuro de la IA radica en el desarrollo de modelos que puedan comprender el contexto y diferenciar entre respuestas correctas e incorrectas.

Kenneth también enfatiza las trampas de confiar en la IA, particularmente en la falta de comprensión detrás del proceso de toma de decisiones del modelo y el potencial de resultados sesgados. La confiabilidad y la responsabilidad de estas máquinas son cruciales para desarrollar, especialmente en dominios críticos para la seguridad donde las vidas humanas podrían estar en juego, como en la medicina o las leyes. En general, si bien la IA ha logrado avances sustanciales, todavía queda un largo camino por recorrer para desbloquear su verdadero potencial y abordar los desafíos asociados.

Preguntas que le hago a Kenneth Wenger:

  • [02:32] El título de su libro es el algoritmo que conspira contra esto, es una pregunta un poco provocativa. Entonces, ¿por qué hacer esta pregunta?
  • [03:45] ¿Dónde crees que estamos realmente en el continuo de la evolución de la IA?
  • [07:58] ¿Ves un día en el que las máquinas de IA comiencen a hacer preguntas a las personas?
  • [07:20] ¿Puedes nombrar una instancia particular en tu carrera en la que sentiste que "Esto va a funcionar, esto es lo que debería estar haciendo"?
  • [09:25] Tienes ambos, lego y matemáticas en el título del libro, ¿podrías darnos una especie de versión lego de cómo lo hace?
  • [15:30] ¿Cuáles son los peligros reales y obvios de confiar en la IA?
  • [19:49] A medida que las personas comienzan a confiar en estas máquinas para tomar decisiones que se supone que deben estar informadas muchas veces, las predicciones podrían estar equivocadas, ¿verdad?

Más sobre Kenneth Wenger:

  • Obtenga su copia de ¿Está el algoritmo conspirando en nuestra contra?: Una guía para laicos sobre los conceptos, las matemáticas y las trampas de la IA.
  • Conéctate con Kenneth.

Más sobre la capacitación intensiva de certificación de la agencia:

  • Conozca más sobre la Capacitación Intensiva de Certificación de Agencias aquí

Realice la evaluación de marketing:

  • Marketingassessment.co

¿Te gusta este espectáculo? ¡Haz clic en encima y danos una reseña en iTunes, por favor!

Correo electrónico Descargar Nueva pestaña

John Jantsch (00:00): Oye, ¿sabías que se acerca la conferencia entrante anual de HubSpot?Así es. Será en Boston del 5 al 8 de septiembre. Cada año, el inbound reúne a líderes de negocios, ventas, marketing, éxito del cliente, operaciones y más. Podrá descubrir las últimas tendencias y tácticas que debe conocer y que realmente puede implementar para escalar su negocio de manera sostenible. Puede aprender de expertos de la industria e inspirarse con increíbles talentos destacados. Este año, personajes como Reese Witherspoon, Derek Jeter, Guy Raz, van a hacer apariciones. Visite inbound.com y obtenga su boleto hoy. No te arrepentirás. Esta programación está garantizada para inspirar y recargar energías. Así es. Vaya a inbound.com para obtener su boleto hoy.

(01:03): Hola y bienvenidos a otro episodio de Duct Tape Marketing Podcast.Este es John Jantsch. Mi invitado de hoy es Kenneth Wenger. Es autor, investigador académico de la Universidad Metropolitana de Toronto y CTO de Squint AI Inc. Sus intereses de investigación se encuentran en la intersección de humanos y máquinas, asegurando que construyamos un futuro basado en el uso responsable de la tecnología. Hoy hablaremos sobre su libro ¿Está el algoritmo conspirando contra nosotros?: Una guía para personas comunes sobre los conceptos, las matemáticas y las trampas de la IA. Entonces, Ken, bienvenido al espectáculo.

Kenneth Wenger (01:40): Hola, John.Muchas gracias. Gracias por tenerme.

John Jantsch (01:42): Entonces, vamos a hablar sobre el libro, pero yo, solo tengo curiosidad, ¿qué, qué hace Squint AI?

Kenneth Wenger (01:47): Esa es una gran pregunta.Entonces, squint ai, um, es una empresa que creamos para, um, investigar un poco y desarrollar una plataforma que nos permita, um,

(02:00): Haz, haz IA de una manera más responsable.Bueno. Bueno. Entonces, estoy seguro de que vamos a entrar en esto, pero lo toco, eh, en el libro en muchos casos también, donde hablamos sobre, eh, ai, el uso ético de ai, algunos de los caídas de ai. Entonces, lo que estamos haciendo con Squint es que estamos tratando de descubrir, ya sabes, cómo tratamos de crear un entorno que nos permita usar la IA de una manera que nos permita comprender cuándo estos algoritmos no están funcionando. en su mejor momento, cuando están cometiendo errores y así sucesivamente. Sí,

John Jantsch (02:30): Sí.Entonces, el título de su libro es The Algorithm Plotting Against, esta es una pregunta un poco provocativa. Quiero decir, obviamente estoy seguro de que hay gente que dice que no. , y algunos están diciendo, bueno, absolutamente. Entonces, ¿por qué hacer la pregunta entonces?

Kenneth Wenger (02:49): Bueno, porque yo, en realidad siento que esa es una pregunta que hacen muchas personas diferentes con un significado diferente.¿Bien? Entonces, es casi lo mismo que la pregunta de si la IA representa una amenaza existencial. Yo, yo, es una pregunta que significa diferentes cosas para diferentes personas. Bien. Así que quería entrar en eso en el libro y tratar de hacer dos cosas. Primero, ofrezca a las personas las herramientas para poder entender esa pregunta por sí mismos, ¿verdad? Y primero descubra cómo, cuál es su posición en ese debate, y luego segundo, um, ya sabe, también brinde mi opinión en el camino.

John Jantsch (03:21): Sí, sí.Y probablemente no hice esa pregunta tan elegantemente como me gustaría. De hecho, creo que es genial que hagas la pregunta, porque en última instancia, lo que estamos tratando de hacer es dejar que las personas tomen sus propias decisiones en lugar de decir, esto es cierto para la IA o esto no es cierto para la IA. . Bien.

Kenneth Wenger (03:36): Así es.Así es. Y, y, y nuevamente, especialmente porque es un problema matizado. Sí. Y significa diferentes cosas para diferentes personas.

John Jantsch (03:44): Así que esta es una pregunta realmente difícil, pero les voy a preguntar, ¿dónde estamos realmente en el continuo de la IA?Quiero decir, las personas que han estado en este tema durante muchos años se dan cuenta de que se ha integrado en muchas cosas que usamos todos los días y damos por sentado, obviamente, ChatGPT trajo a un espectro completamente nuevo de personas que ahora, ya sabes, al menos tienen un vocabulario parlante de lo que es. Pero recuerdo, ya sabes, he sido, he sido, he tenido mi propio negocio durante 30 años. Quiero decir, no teníamos la web , no teníamos sitios web, ya sabes, no teníamos dispositivos móviles que ciertamente ahora juegan un papel, pero recuerdo que cada uno de ellos apareció, la gente decía, oh, estamos condenados. Se acabó . Bien. Entonces, actualmente hay mucho de ese tipo de lenguaje en torno a la inteligencia artificial, pero ¿dónde crees que estamos realmente en el continuo de la evolución?

Kenneth Wenger (04:32): Sabes, esa es una gran pregunta porque creo que en realidad estamos muy temprano.Sí. Creo que, ya sabes, hemos logrado un progreso notable en un período de tiempo muy corto, pero creo que aún estamos en las primeras etapas. Sabes, si piensas en dónde estamos ahora mismo, estábamos hace una década, hemos hecho algunos progresos. Pero creo que, fundamentalmente, a nivel científico, solo hemos comenzado a arañar la superficie. Te daré algunos ejemplos. Entonces, inicialmente, ya sabes, los primeros modelos, fueron geniales para darnos alguna prueba de que esta nueva forma de plantear preguntas, ya sabes, las redes neuronales esencialmente. Sí, sí. Bien. Son ecuaciones muy complejas. Uh, si usa GPU para ejecutar estas ecuaciones complejas, entonces podemos resolver problemas bastante complejos. Eso es algo de lo que nos dimos cuenta alrededor de 2012 y luego alrededor de 2017, así que entre 2012 y 2017, el progreso fue muy lineal.

(05:28): Ya sabes, se crearon nuevos modelos, se propusieron nuevas ideas, pero las cosas escalaron y progresaron de manera muy lineal.Pero después de 2017, con la introducción del modelo llamado Transformer, que es la arquitectura base detrás de chat, g, pt y todos estos grandes modelos de lenguaje, tuvimos otro tipo de realización. Fue entonces cuando nos dimos cuenta de que si tomas esos modelos y los amplías y los amplías, en términos del tamaño del modelo y el tamaño del conjunto de datos que usamos para entrenarlos, se vuelven exponencialmente mejores. Bueno. Y fue entonces cuando llegamos al punto en el que nos encontramos hoy, donde nos dimos cuenta de que simplemente al escalarlos, nuevamente, no hemos hecho nada fundamentalmente diferente desde 2017. Todo lo que hemos hecho es aumentar el tamaño del modelo, aumentar el tamaño del conjunto de datos, y están mejorando exponencialmente.

John Jantsch (06:14): Entonces, ¿multiplicación en lugar de suma?

Kenneth Wenger (06:18): Bueno, sí, exactamente.Sí. Entonces, entonces no lo es, el progreso ha sido exponencial, no solo en trayectoria lineal. Sí. Pero creo, pero de nuevo, el hecho de que no hemos cambiado mucho fundamentalmente en estos modelos, eso va a disminuir muy pronto. es mi expectativa Y ahora, ¿dónde estamos en la línea de tiempo? ¿Cuál era tu pregunta original? Creo que si piensas en lo que están haciendo las modelos hoy, lo están haciendo muy bien. Están haciendo estadísticas muy simples, esencialmente. Mm-hmm. , no son la idea de que estos modelos se llamen inteligencia artificial. Bien. Creo que a veces es un nombre un poco inapropiado. Estoy de acuerdo. Y lleva a algunas de las preguntas que tiene la gente. Um, porque allí, no hay mucho como inteligencia profunda en marcha, es solo un modelo estadístico y muy simple en eso. Y luego, hacia dónde vamos desde aquí y cuál espero que sea el futuro, ahí es cuando comenzamos, creo que la cosa, las cosas van a cambiar drásticamente cuando comencemos a obtener modelos que no solo pueden, no solo hacer estadísticas simples, pero son capaces de entender el contexto de lo que están tratando de lograr. Sí. Y son capaces de entender, ya sabes, tanto la respuesta correcta como la respuesta incorrecta. Entonces, por ejemplo, ellos, ellos, ellos, pueden saber cuándo están hablando de cosas que saben y cuándo están esquivando esta área gris de cosas que realmente no saben. ¿Tiene sentido? Sí,

John Jantsch (07:39): Absolutamente.Quiero decir, estoy totalmente de acuerdo contigo sobre la inteligencia artificial. De hecho, lo he estado llamando ia. Creo que es más una automatización informada. es como yo lo veo, al menos en mi trabajo. ¿Ves un día en el que, ya sabes, las indicaciones para hacer preguntas son, ya sabes, ese es el uso de la calle, por así decirlo, de la IA para mucha gente? ¿Ves un día en el que empiece a hacerte preguntas? Como, ¿por qué querrías saber eso? ¿O qué estás tratando de lograr, eh, al hacer esta pregunta?

Kenneth Wenger (08:06): Sí.Entonces, la respuesta simple es sí. Yo, definitivamente lo hago. Y creo que eso es parte de cómo sería lograr un nivel superior de inteligencia. Es cuando no solo están haciendo su oferta, no es solo una herramienta. Sí, sí. Uh, pero ellos tienen su propio propósito que están tratando de lograr. Y ahí es cuando verías cosas como preguntas esencialmente, eh, surgen del sistema, ¿verdad? Es cuando tienen una meta a la que quieren llegar, que es, ya sabes, y luego elaboran un plan para llegar a esa meta. Ahí es cuando puedes ver el surgimiento de cosas como preguntas para ti. No creo que estemos allí todavía, pero sí, creo que es ciertamente posible.

John Jantsch (08:40): Pero esa también es la versión de ciencia ficción, ¿verdad?Quiero decir, donde la gente comienza a decir, ya sabes, las películas, es como, no, no, Ken, aún no conoces esa información. Yo decidiré cuándo puedes saber eso. .

Kenneth Wenger (08:52): Bueno, tienes razón.Quiero decir, la pregunta, la forma en que hiciste la pregunta fue más como, ¿es posible en principio? creo absolutamente. Sí. Sí. ¿Queremos eso? Quiero decir, yo, yo no sé. Supongo que eso es parte de, sí, depende del caso de uso en el que estemos pensando. Uh, pero desde la perspectiva de un primer principio Sí, lo es, ciertamente es posible. Sí. No conseguir un modelo para

John Jantsch (09:13): Haz eso.Entonces, creo que hay montones y montones de personas, solo entienden la IA si voy a este lugar donde tiene un cuadro y escribo una pregunta y escupe una respuesta. Dado que tiene tanto lego como matemáticas en el título, ¿podría darnos una especie de versión lego de cómo lo hace?

Kenneth Wenger (09:33): Sí, absolutamente.Entonces, bueno, al menos lo intentaré, déjame decirlo de esa manera, , cuando, hace unos momentos cuando mencioné que estos modelos, esencialmente lo que son, son modelos estadísticos muy simples. Eso en sí, esa frase en sí, es un poco, es controvertida porque al final del día, no sabemos qué tipo de inteligencia tenemos, ¿verdad? Entonces, si piensas en nuestra inteligencia, no sabemos si en algún nivel también somos un modelo estadístico, ¿verdad? Sin embargo, lo que quiero decir con IA hoy en modelos de lenguaje grande como ChatGPT son modelos estadísticos simples, lo que quiero decir con eso es que están realizando una tarea muy simple. Entonces, si piensas en ChatGPT, lo que están haciendo es intentar, esencialmente, predecir la siguiente mejor palabra en una secuencia. Eso es todo lo que están haciendo. Y la palabra, la forma en que lo hacen es que calculan lo que se llama distribución de probabilidad.

(10:31): Básicamente, para cualquier palabra en a, en a, en un mensaje o en un corpus de texto, calculan la probabilidad de que esa palabra pertenezca a esa secuencia.¿Bien? Y luego eligen la siguiente palabra con la mayor probabilidad de ser correcta allí. ¿Bueno? Ahora, ese es un modelo muy simple en el siguiente sentido. Si piensas en cómo nos comunicamos, ¿verdad? Ya sabes, estamos teniendo una conversación en este momento. Creo que cuando me haces una pregunta, hago una pausa y pienso en lo que voy a decir, ¿no? Así que tengo un modelo del mundo y tengo un propósito en esa conversación. Se me ocurre la idea de lo que quiero responder, y luego uso mi habilidad para producir palabras y pronunciarlas para comunicártelo. ¿Bien? Es posible que tenga un sistema en mi cerebro que funcione de manera muy similar a un gran modelo de lenguaje, en el sentido de que tan pronto como empiezo a decir palabras, la próxima palabra que voy a decir es la que probablemente para ser correcto, dadas las palabras que acabo de decir.

(11:32): Es muy posible.Eso es cierto. Sin embargo, lo que es diferente es que al menos ya tengo un plan de lo que voy a decir en algún espacio latente. Ya he codificado de alguna forma. Lo que quiero transmitir, cómo lo digo, que la capacidad de producir esas palabras podría ser muy similar a un modelo de lenguaje. Pero la diferencia es que un modelo de lenguaje grande está tratando de descifrar lo que va a decir y de encontrar esas palabras al mismo tiempo. Mm-hmm. , ¿bien? ¿Tiene sentido? Así que es un poco como si estuvieran divagando y, a veces, si hablan demasiado, divagan en un territorio sin sentido. Sí. Sí. Porque no saben lo que van a decir hasta que lo dicen. . Sí. Así que esa es una diferencia muy fundamental. Sí.

John Jantsch (12:20): Yo, yo, ciertamente he visto algunos resultados que son bastante interesantes en ese sentido.Pero, ya sabes, como te escuché hablar sobre eso, quiero decir, de muchas maneras eso es lo que estamos haciendo, estamos consultando una base de datos de lo que nos han enseñado, son las palabras que saber además de los conceptos que hemos estudiado, eh, y somos capaces de articular. Quiero decir, de alguna manera nos estamos consultando eso, incitando o haciéndote una pregunta también, quiero decir, funciona de manera similar. Dirías

Kenneth Wenger (12:47): El aspecto de generar una pregunta y luego responderla es similar, pero lo que es diferente es el concepto que estás tratando de describir.Entonces, nuevamente, cuando me haces una pregunta, lo pienso y se me ocurre, así que, nuevamente, tengo un modelo mundial que funciona hasta ahora para mí para ayudarme en la vida, ¿verdad? Y ese modelo de mundo me permite entender diferentes conceptos de diferentes maneras. Y cuando estoy a punto de responder a su pregunta, lo pienso, formulo una respuesta y luego descubro una manera de comunicárselo. ¿Bueno? Ese paso falta en lo que están haciendo estos modelos de lenguaje, ¿verdad? Están recibiendo un aviso, pero no hay ningún paso en el que estén formulando una respuesta con algún objetivo, ¿verdad? ¿Bien? Sí. Algún propósito. Básicamente, están recibiendo un texto y están tratando de generar una secuencia de palabras que se van descifrando a medida que se producen, ¿verdad? No hay un plan definitivo. Así que esa es una diferencia muy fundamental.

John Jantsch (13:54): Y ahora, escuchemos una palabra de nuestro patrocinador, marketing Made Simple.Es un podcast presentado por el Dr. J j Peterson y lo ofrece HubSpot Podcast Network, el destino de audio para profesionales de negocios. Y en un episodio reciente, JJ y April conversan con guías certificados de StoryBrand y propietarios de agencias sobre cómo usar ChatGPT con fines de marketing. Todos sabemos lo importante que es eso hoy. Escuche marketing Made Simple. Dondequiera que obtenga sus podcasts.

(14:30): Hola, dueños de agencias de marketing, ya saben, puedo enseñarles las claves para duplicar su negocio en solo 90 días, o le devolvemos su dinero.Suena interesante. Todo lo que tiene que hacer es licenciar nuestro proceso de tres pasos que le permitirá hacer que sus competidores sean irrelevantes, cobrar una prima por sus servicios y escalar quizás sin agregar gastos generales. Y aquí está la mejor parte. Puede obtener la licencia de todo este sistema para su agencia simplemente participando en una próxima revisión intensiva de la certificación de la agencia, ¿por qué crear la rueda? Utilice un conjunto de herramientas que nos llevó más de 20 años crear. Y puede tenerlos hoy, compruébelo en dtm.world/certification. Esa es la certificación DTM world slash.

(15:18): Quiero llegar a gustarme lo que depara el futuro, pero quiero detenerme en un par de cosas en las que te sumerges en el libro.¿Cuáles son, ya sabes, aparte del miedo que los medios difunden , ¿cuáles son los peligros reales, ya sabes, y obvios de confiar en la IA?

Kenneth Wenger (15:38): Creo que el mayor problema, y ​​uno de los, quiero decir, el, el, el verdadero motivador para mí cuando comencé a escribir el libro es que es una herramienta poderosa por dos razones.Es muy fácil de usar, aparentemente, ¿verdad? Sí. Puede pasar un fin de semana aprendiendo Python, puede escribir algunas líneas y puede transformar, puede analizar, puede analizar datos que antes no podía simplemente usar una biblioteca. Así que realmente no tienes que entender lo que estás haciendo, y puedes obtener algún resultado que parezca útil, ¿de acuerdo? Mm-hmm. , pero calentando en ese proceso, ¿verdad? El hecho de que pueda tomar muchos datos, una gran cantidad de datos, modificarlos de alguna manera y obtener una respuesta, obtener algún resultado sin comprender lo que sucede en el medio, tiene enormes repercusiones para malinterpretar los resultados que obtiene. , ¿bien? Y luego, si estás usando estas herramientas en el mundo, ¿verdad?

(16:42): En un, en, de una manera que puede afectar a otras personas.Por ejemplo, supongamos que trabaja en una institución financiera y, y, y se le ocurre un modelo para averiguar, uh, a quién debe, a quién debe otorgarle algún crédito, obtener, ya sabe, aprobación. para, para el crédito de una línea de crédito, y que no debe. Ahora, en este momento, los bancos tienen sus propios modelos, pero seguro, si le quitas la IA, tradicionalmente esos modelos son pensados ​​por los estadísticos, y pueden equivocarse de vez en cuando, pero al menos tienen una gran imagen de lo que significa, ya sabes, analizar datos, sesgar los datos, ¿verdad? ¿Cuáles son las repercusiones del sesgo en los datos? Cómo deshacerse de todas estas cosas son cosas para las que un buen estadístico debe estar capacitado. Pero ahora, si elimina a los estadísticos, porque cualquiera puede usar un modelo para analizar datos y obtener alguna predicción, lo que sucede es que termina negando y aprobando líneas de crédito para personas que, con usted, con repercusiones que podrían ser , ya sabes, impulsado por un sesgo muy negativo en los datos, ¿verdad?

(17:44): Podría afectar a cierto sector de la población, eh, negativamente.Tal vez hay algunos que ya no pueden obtener una línea de crédito solo porque viven en un vecindario en particular mm-hmm. , o ellos, ya sabes, hay muchas razones por las que esto podría ser un problema,

John Jantsch (17:57): ¿ Pero no fue eso un factor anteriormente?Quiero decir, ciertamente los vecindarios son considerados , ya sabes, como parte de, ya sabes, incluso en los modelos analógicos, creo.

Kenneth Wenger (18:06): Sí, absolutamente.Entonces, como dije, siempre tuvimos un problema con el sesgo, ¿verdad? En los datos, ¿verdad? Pero tradicionalmente, uno esperaría que sucedieran dos cosas. En primer lugar, uno esperaría que quienquiera que proponga un modelo, solo porque es un problema complejo, debe tener algún entrenamiento estadístico satisfactorio. Sí. ¿Bien? Y un estadístico ético tendría que considerar cómo lidiar con el sesgo en los datos, ¿verdad? Así que ese es el número uno. Número dos, el problema que tenemos ahora es que, en primer lugar, no es necesario tener esa decisión establecida. Puedes simplemente usar el modelo sin entender lo que está pasando, ¿verdad? Bien. Y lo que es peor es que con estos modelos, en realidad no podemos entender cómo, o tradicionalmente es muy difícil entender cómo llegó el modelo o la predicción. Entonces, si te niegan una línea de crédito o, como hablo en el libro de fianza, por ejemplo, en un caso judicial, es muy difícil argumentar, bueno, ¿por qué yo? ¿Por qué, por qué me negaron esto? Y luego, si pasa por el proceso de auditarlo nuevamente con el enfoque tradicional donde tiene una decisión, siempre puede preguntar, entonces, ¿cómo modeló esto? Uh, ¿por qué a esta persona se le negó este caso en particular en una auditoría? Mm-hmm. con una, una, una red neuronal, por ejemplo, eso se vuelve mucho más complicado.

John Jantsch (19:21): Entonces, quiero decir, entonces lo que estás diciendo, uno de los problemas iniciales es que las personas confían en la salida, los datos.Quiero decir, incluso, ya sabes, lo uso de una manera muy simple. Dirijo una empresa de marketing y la usamos muchas veces para darnos ideas de copia, ideas para titulares, ya sabes, para cosas. Así que realmente no siento que haya ningún peligro real aparte de tal vez sonar como todos los demás. en tu copia. Uh, pero, pero estás diciendo que, ya sabes, a medida que las personas comienzan a confiar en estos para tomar decisiones que se supone que deben estar informadas, muchas veces las predicciones son incorrectas.

Kenneth Wenger (19:57): Sí.Y, y hay mucho, así que la respuesta es sí. Ahora, hay dos razones para eso. Y, por cierto, permítanme volver para decir que hay casos de uso en los que, por supuesto, hay que pensar en esto como un espectro, ¿no? Como sí, sí. Hay casos en los que las repercusiones de hacer algo mal son peores que en otros casos, ¿verdad? Entonces, como usted dice, si está tratando de generar una copia y sabe, si no tiene sentido, simplemente continúe y cámbiela. Y al final del día, probablemente lo revises de todos modos. Entonces, ese es un costo más bajo, probablemente más bajo. El costo de un error allí será más bajo que en el caso de, ya sabes, usar un modelo en un, en un proceso judicial, por ejemplo. ¿Bien? Bien. Bien. Ahora, con respecto al hecho de que estos modelos a veces cometen errores, la razón es que la forma en que estos modelos realmente funcionan es que ellos, y la parte que puede ser engañosa es que tienden a funcionar muy bien para áreas en los datos que es decir, que entienden muy bien.

(20:56): Entonces, si piensas en un conjunto de datos, ¿verdad?Entonces están entrenados usando un conjunto de datos para la mayoría de los datos en ese conjunto de datos, podrán modelarlo muy bien. Y es por eso que obtiene modelos que funcionan, digamos, con un 90% de precisión en un conjunto de datos en particular. El problema es que para el 10% en el que no pueden modelar muy bien, los errores son notables y de una manera que un humano no podría cometer esos errores. Sí. Entonces, ¿qué sucede en esos casos en los que, en primer lugar, cuando entrenamos estos modelos que obtenemos, decimos, bueno, ya sabes, obtenemos una tasa de error del 10 % en este conjunto de datos en particular? El único problema es que cuando llevas eso a la producción, no sabes que la tasa de incidencia de esos errores será la misma en el mundo real, ¿verdad?

(21:40): puede terminar, eh, en una situación en la que obtiene esos puntos de datos que conducen a errores a una tasa mucho mayor que la que tuvo en su conjunto de datos.Solo un problema. El segundo problema es que si estás en un caso de uso, si tu aplicación de producción, ya sabes, es tal que un error podría costar, como digamos en un caso de uso médico o en la conducción autónoma, cuando tienes que regresar y explicar por qué hiciste algo mal, por qué el modelo hizo algo mal, y es tan extrañamente diferente de lo que un humano haría mal. Esa es una de las razones fundamentales por las que actualmente no tenemos estos sistemas implementados en dominios críticos para la seguridad. Y, por cierto, esa es una de las razones fundamentales por las que creamos splint, es para abordar específicamente esos problemas, es descubrir cómo podemos crear un conjunto de modelos o un sistema que pueda comprender específicamente cuándo los modelos están haciendo las cosas bien y cuando están haciendo las cosas mal en tiempo de ejecución. Porque realmente creo que es una de las razones fundamentales por las que no hemos avanzado tanto como deberíamos en este momento. Es porque cuando los modelos funcionan realmente bien, cuando pueden modelar los datos, entonces funcionan muy bien. Pero para los casos en los que no pueden modelar esa sección de los datos, los errores son simplemente increíbles, ¿verdad? Son cosas que los humanos nunca harían ese tipo de

John Jantsch (23:00): Error.Si, si, si. Y, obviamente, ya sabes, eso ciertamente tendrá que resolverse antes de que alguien confíe en enviar, ya sabes, una nave espacial humana, ya sabes, guiada por IA o algo así, ¿verdad? Quiero decir, cuando sabes que la vida humana está en riesgo, debes tener confianza. Entonces, si no puedes confiar en esa toma de decisiones, eso seguramente evitará que la gente emplee la tecnología, supongo.

Kenneth Wenger (23:24): ¿Verdad?O usarlos, por ejemplo, para ayudar en, como decía, en áreas médicas, por ejemplo, el diagnóstico de cáncer, ¿no? Si desea que un modelo pueda detectar ciertos tipos de cáncer, dado, digamos, escaneos de biopsia, debe poder confiar en el modelo. Ahora cualquier cosa, cualquier modelo esencialmente, ya sabes, va a cometer errores. Nada es perfecto, pero quieres que sucedan dos cosas. En primer lugar, desea poder minimizar los tipos de errores que puede cometer el modelo y debe tener alguna indicación de que la calidad de la predicción del modelo no es excelente. No quieres tener eso. Sí. Y segundo, una vez que ocurre un error, tienes que ser capaz de defender que la razón por la que ocurrió el error es porque la calidad de los datos era tal que, ya sabes, incluso un ser humano no podría hacerlo mejor. Sí. No podemos permitir que los modelos cometan errores que un médico humano miraría y diría, bueno, esto es claramente Sí, incorrecto.

John Jantsch (24:15): Sí.Sí. Absolutamente. Bueno, Ken, quiero agradecerte por tomarte un momento para pasar por el podcast de marketing de Duct Tape. Quiere decirle a la gente dónde pueden encontrar, conectarse con usted si lo desea y luego, obviamente, dónde pueden obtener una copia de ¿Está el algoritmo conspirando contra nosotros?

Kenneth Wenger (24:29): Absolutamente.Muchas gracias, primero que nada por contar conmigo. Fue una gran conversación. Así que sí, pueden contactarme en LinkedIn y pedirle al policía una copia del libro y obtenerlo tanto de Amazon como del sitio web de nuestro editor, se llama working fires.org.

John Jantsch (24:42): Impresionante.Bueno, nuevamente, gracias por resolver con una gran conversación. Con suerte, tal vez nos encontremos con usted uno de estos días en el camino.

Kenneth Wenger (24:49): Gracias.

John Jantsch (24:49): Oye, y una última cosa antes de irte.¿Sabes cómo hablo de estrategia de marketing, estrategia antes que táctica? Bueno, a veces puede ser difícil entender cuál es su posición en eso, qué se debe hacer con respecto a la creación de una estrategia de marketing. Así que creamos una herramienta gratuita para ti. Se llama Evaluación de la estrategia de marketing. Puede encontrarlo en @marketingassessment.co, not.com, punto co. Consulte nuestra evaluación de marketing gratuita y sepa dónde se encuentra con su estrategia hoy. Eso es solo evaluación de marketing.co. Me encantaría conversar contigo sobre los resultados que obtienes.

energizado por

Este episodio de Duct Tape Marketing Podcast es presentado por HubSpot Podcast Network.

HubSpot Podcast Network es el destino de audio para profesionales de negocios que buscan la mejor educación e inspiración sobre cómo hacer crecer un negocio.