John Jantsch (00:00): Hej, czy wiesz, że zbliża się doroczna konferencja HubSpot?Zgadza się. Będzie w Bostonie od 5 do 8 września. Co roku inbound gromadzi liderów z różnych dziedzin biznesu, sprzedaży, marketingu, sukcesu klientów, operacji i nie tylko. Będziesz mógł odkryć wszystkie najnowsze trendy i taktyki, które musisz znać, które możesz zastosować, aby skalować swoją firmę w zrównoważony sposób. Możesz uczyć się od ekspertów branżowych i inspirować się niesamowitymi talentami w centrum uwagi. W tym roku pojawią się Reese Witherspoon, Derek Jeter, Guy Raz. Odwiedź stronę inbound.com i zdobądź bilet już dziś. Nie będziesz żałować. Ten program gwarantuje inspirację i ładowanie. Zgadza się. Przejdź do inbound.com, aby otrzymać bilet już dziś.

(01:03): Witam w kolejnym odcinku podcastu o marketingu na taśmie klejącej.To jest Jan Jantsch. Moim dzisiejszym gościem jest Kenneth Wenger. Jest autorem, pracownikiem naukowym na Toronto Metropolitan University i CTO w Squint AI Inc. Jego zainteresowania badawcze skupiają się na skrzyżowaniu ludzi i maszyn, zapewniając budowanie przyszłości w oparciu o odpowiedzialne korzystanie z technologii. Dzisiaj porozmawiamy o jego książce Czy algorytm spiskuje przeciwko nam?: Przewodnik dla laików po koncepcjach, matematyce i pułapkach sztucznej inteligencji. Więc, Ken, witaj w programie.

Kenneth Wenger (01:40): Cześć, John.Dziękuję bardzo. Dziękuje za gościnę.

John Jantsch (01:42): Więc porozmawiamy o książce, ale jestem po prostu ciekawy, co robi sztuczna inteligencja zeza?

Kenneth Wenger (01:47): To świetne pytanie.Więc Squint ai, hm, to firma, którą stworzyliśmy, by, hm, przeprowadzić badania i opracować platformę, która umożliwi nam, hm,

(02:00): Rób, rób sztuczną inteligencję w bardziej odpowiedzialny sposób.Dobra. Dobra. Więc, uh, jestem pewien, że przejdziemy do tego, ale dotykam tego również w książce w wielu przypadkach, gdzie mówimy o, uh, ai, etycznym używaniu ai, niektórych upadki ai. Więc to, co robimy ze Squintem, to próba zrozumienia, jak próbujemy stworzyć środowisko, które pozwala nam używać sztucznej inteligencji w sposób, który pozwala nam zrozumieć, kiedy te algorytmy nie działają najlepiej, kiedy popełniają błędy i tak dalej. Tak,

John Jantsch (02:30): Tak.Tak więc tytuł twojej książki to The Algorithm Plotting Against, jest to trochę prowokacyjne pytanie. To znaczy, oczywiście jestem pewien, że są ludzie, którzy mówią nie , a niektórzy twierdzą, że absolutnie. Więc po co w takim razie zadawać pytanie?

Kenneth Wenger (02:49): Cóż, ponieważ wydaje mi się, że to pytanie jest zadawane przez wielu różnych ludzi i ma właściwie różne znaczenie.Prawidłowy? Więc to prawie to samo, co pytanie, czy sztuczna inteligencja stanowi egzystencjalne zagrożenie? Ja, ja, to pytanie oznacza różne rzeczy dla różnych ludzi. Prawidłowy. Więc chciałem zająć się tym w książce i spróbować zrobić dwie rzeczy. Po pierwsze, zaoferuj ludziom narzędzia, aby mogli sami zrozumieć to pytanie, prawda. I najpierw dowiedzieć się, w jaki sposób, gdzie oni stoją w tej debacie, a potem, no wiesz, przedstawić też moją opinię po drodze.

John Jantsch (03:21): Tak, tak.I prawdopodobnie nie zadałem tego pytania tak elegancko, jak bym chciał. Właściwie uważam, że to wspaniale, że zadajesz to pytanie, ponieważ ostatecznie staramy się pozwolić ludziom podejmować własne decyzje, zamiast mówić, że to jest prawda w przypadku sztucznej inteligencji, a to nie jest prawdziwe w przypadku sztucznej inteligencji . Prawidłowy.

Kenneth Wenger (03:36): Zgadza się.Zgadza się. I, i, i jeszcze raz, zwłaszcza, że ​​jest to złożony problem. Tak. I oznacza różne rzeczy dla różnych ludzi.

John Jantsch (03:44): To jest naprawdę trudne pytanie, ale zapytam cię, gdzie tak naprawdę jesteśmy w kontinuum sztucznej inteligencji?Chodzi mi o to, że ludzie, którzy zajmują się tym tematem od wielu lat, zdają sobie sprawę, że jest on wbudowany w wiele rzeczy, których używamy na co dzień i które uważamy za oczywiste. mówiące słownictwo, co to jest. Ale pamiętam, wiesz, byłem, byłem, miałem własny biznes przez 30 lat. To znaczy, nie mieliśmy internetu , nie mieliśmy stron internetowych, wiesz, nie mieliśmy urządzeń mobilnych, które z pewnością odgrywają teraz pewną rolę, ale pamiętam, że kiedy pojawiały się te urządzenia, ludzie myśleli, och, jesteśmy skazani na zagładę. To koniec . Prawidłowy. Więc obecnie wokół ai jest dużo tego typu języka, ale jak myślisz, gdzie naprawdę jesteśmy w kontinuum ewolucji?

Kenneth Wenger (04:32): Wiesz, to świetne pytanie, ponieważ myślę, że jesteśmy na bardzo wczesnym etapie.Tak. Myślę, że wiesz, zrobiliśmy niezwykły postęp w bardzo krótkim czasie, ale myślę, że wciąż jesteśmy na bardzo wczesnym etapie. Wiesz, jeśli myślisz o tym, gdzie jesteśmy teraz, byliśmy dekadę temu, poczyniliśmy pewne postępy. Ale myślę, że zasadniczo, na poziomie naukowym, zaczęliśmy tylko drapać powierzchnię. Dam ci kilka przykładów. Więc początkowo, wiecie, pierwsze modele były świetne w dawaniu nam dowodów na to, że ten nowy sposób stawiania pytań, no wiecie, zasadniczo dotyczy sieci neuronowych. Tak tak. Prawidłowy. To bardzo złożone równania. Uh, jeśli używasz procesorów graficznych do wykonywania tych złożonych równań, wtedy możemy faktycznie rozwiązać dość złożone problemy. Zdaliśmy sobie z tego sprawę około 2012 roku, a następnie około 2017 roku, więc między 2012 a 2017 rokiem postęp był bardzo liniowy.

(05:28): Wiesz, stworzono nowe modele, zaproponowano nowe pomysły, ale sprawy skalowały się i rozwijały bardzo liniowo.Ale po 2017 roku, wraz z wprowadzeniem modelu o nazwie Transformer, który jest podstawową architekturą czatu, g, pt i wszystkich tych dużych modeli językowych, mieliśmy inny rodzaj realizacji. Wtedy zdaliśmy sobie sprawę, że jeśli weźmiesz te modele i przeskalujesz je w górę, pod względem rozmiaru modelu i rozmiaru zestawu danych, którego użyliśmy do ich szkolenia, staną się wykładniczo lepsze. Dobra. I wtedy doszliśmy do punktu, w którym jesteśmy dzisiaj, kiedy zdaliśmy sobie sprawę, że samo skalowanie ich znowu nie zrobiło nic zasadniczo innego od 2017 roku. Wszystko, co zrobiliśmy, to zwiększenie rozmiaru modelu, zwiększenie rozmiar zestawu danych i stają się wykładniczo lepsze.

John Jantsch (06:14): Więc mnożenie zamiast dodawania?

Kenneth Wenger (06:18): Cóż, tak, dokładnie.Tak. Więc tak nie jest, postęp był wykładniczy, nie tylko w trajektorii liniowej. Tak. Ale myślę, ale znowu fakt, że nie zmieniliśmy się zasadniczo w tych modelach, wkrótce się zmniejszy. To moje oczekiwanie. A teraz gdzie jesteśmy na osi czasu? Jakie było twoje pierwotne pytanie. Myślę, że jeśli pomyślisz o tym, co modelki robią dzisiaj, to robią bardzo elementarnie. Zasadniczo robią bardzo proste statystyki. Mm-hmm. , nie są ideałem nazwania tych modeli sztuczną inteligencją. Prawidłowy. Myślę, że czasami to trochę nadużycie. Zgadzam się. I prowadzi to do niektórych pytań, które ludzie mają. Um, ponieważ tam nie ma czegoś takiego jak głęboka inteligencja, to tylko modelowanie statystyczne i to bardzo proste. A potem dokąd zmierzamy i jaka mam nadzieję będzie przyszłość, to wtedy zaczniemy, myślę, że rzeczy radykalnie się zmienią, kiedy zaczniemy otrzymywać modele, które będą w stanie nie tylko, nie tylko tworzyć proste statystyki, ale są w stanie zrozumieć kontekst tego, co próbują osiągnąć. Tak. I są w stanie zrozumieć, wiesz, właściwą odpowiedź, jak również złą odpowiedź. Na przykład, oni, oni, oni są w stanie wiedzieć, kiedy mówią o rzeczach, które znają, a kiedy omijają tę szarą strefę rzeczy, o których tak naprawdę nie wiedzą. Czy to ma sens? Tak,

John Jantsch (07:39): Oczywiście.To znaczy, całkowicie się z tobą zgadzam co do sztucznej inteligencji. Właściwie nazywałem to m.in. Myślę, że to bardziej świadoma automatyzacja. tak na to patrzę, przynajmniej w mojej pracy. Czy widzisz dzień, w którym, wiesz, monity o zadawanie pytań są, wiesz, to rodzaj ulicznego użycia, jeśli wolisz, sztucznej inteligencji dla wielu ludzi. Czy widzisz dzień, w którym zaczyna zadawać ci pytania? Na przykład, dlaczego chcesz to wiedzieć? Albo co próbujesz osiągnąć, zadając to pytanie?

Kenneth Wenger (08:06): Tak.Więc prosta odpowiedź brzmi: tak. Ja, zdecydowanie tak. I myślę, że to część tego, jak wyglądałoby osiągnięcie wyższego poziomu inteligencji. Dzieje się tak, gdy nie tylko wykonują twoje rozkazy, to nie jest tylko narzędzie. Tak tak. Uh, ale oni mają swój własny cel, który starają się osiągnąć. I wtedy zobaczylibyście takie rzeczy jak pytania, ee, wyłaniające się z systemu, prawda? Jest wtedy, gdy oni mają cel, do którego chcą dotrzeć, czyli, wiesz, i wtedy wymyślają plan, aby osiągnąć ten cel. Wtedy możesz zobaczyć pojawienie się takich rzeczy jak pytania do ciebie. Myślę, że jeszcze tam nie jesteśmy, ale tak, myślę, że to z pewnością możliwe.

John Jantsch (08:40): Ale to też wersja science-fiction, prawda?Chodzi mi o to, że kiedy ludzie zaczynają mówić, no wiesz, filmy, to jest tak, nie, nie, Ken, jeszcze nie znasz tych informacji. Zdecyduję, kiedy możesz to wiedzieć .

Kenneth Wenger (08:52): Cóż, masz rację.Chodzi mi o to, że pytanie, sposób, w jaki zadałeś pytanie, było bardziej jak, czy to jest możliwe w zasadzie? Myślę, że absolutnie. Tak. Tak. Czy tego chcemy? To znaczy, nie wiem. Myślę, że to część, tak, to zależy od tego, o jakim przypadku użycia myślimy. Uh, ale z perspektywy pierwszej zasady Tak, jest, z pewnością jest to możliwe. Tak. Nie po to, aby uzyskać model

John Jantsch (09:13): Zrób to.Myślę więc, że są dziesiątki ludzi, którzy rozumieją sztuczną inteligencję tylko wtedy, gdy idę do tego miejsca, gdzie jest pudełko i wpisuję pytanie, a ono wypluwa odpowiedź. Ponieważ w tytule masz zarówno laika, jak i matematykę, czy mógłbyś podać nam wersję laika, w jaki sposób to robi?

Kenneth Wenger (09:33): Tak, absolutnie.Więc, cóż, przynajmniej spróbuję, pozwól mi to ująć w ten sposób, , kiedy kilka chwil temu wspomniałem, że te modele, w gruncie rzeczy są bardzo prostymi modelami statystycznymi. To samo w sobie, to zdanie samo w sobie, jest trochę, jest kontrowersyjne, ponieważ na koniec dnia nie wiemy, jaki mamy rodzaj inteligencji, prawda? Więc jeśli myślisz o naszej inteligencji, to nie wiemy, czy na jakimś poziomie też nie jesteśmy modelem statystycznym, prawda? Jednak to, co rozumiem przez AI w dużych modelach językowych, takich jak ChatGPT, jest prostymi modelami statystycznymi, mam na myśli to, że wykonują one bardzo proste zadanie. Więc jeśli myślisz o ChatGPT, to, co robią, to próbują, zasadniczo, przewidzieć następne najlepsze słowo w sekwencji. To wszystko, co robią. Słowem, sposób, w jaki to robią, polega na obliczaniu tak zwanego rozkładu prawdopodobieństwa.

(10:31): Zasadniczo dla każdego słowa w a, w a, w podpowiedzi lub w zbiorze tekstu obliczają prawdopodobieństwo, że słowo należy do tej sekwencji.Prawidłowy? A potem wybierają następne słowo z największym prawdopodobieństwem, że będzie tam poprawne. Dobra? Jest to bardzo prosty model w następującym sensie. Jeśli myślisz o tym, jak się komunikujemy, prawda? Wiesz, właśnie rozmawiamy. Myślę, że kiedy zadajesz mi pytanie, zatrzymuję się i myślę o tym, co mam zamiar powiedzieć, prawda? Mam więc model świata i mam cel w tej rozmowie. Wpadam na pomysł, na co chcę odpowiedzieć, a następnie wykorzystuję moją zdolność do tworzenia słów i wybrzmiewania ich, aby ci to przekazać. Prawidłowy? Możliwe, że mam w mózgu system, który działa bardzo podobnie do dużego modelu językowego, w tym sensie, że jak tylko zacznę wypowiadać słowa, następne słowo, które mam zamiar powiedzieć, jest najbardziej prawdopodobne mieć rację, biorąc pod uwagę słowa, które właśnie powiedziałem.

(11:32): To bardzo możliwe.To prawda. Jednak różnica polega na tym, że przynajmniej mam już plan tego, co mam zamiar powiedzieć w jakiejś ukrytej przestrzeni. Już zakodowałem w jakiejś formie. To, co chcę przekazać, jak to mówię, że umiejętność profesjonalnego tworzenia tych słów może być bardzo podobna do modelu językowego. Ale różnica polega na tym, że duży model językowy próbuje dowiedzieć się, co ma powiedzieć, a także wymyślić te słowa w tym samym czasie. Mm-hmm. , Prawidłowy? Czy to ma sens? Więc to trochę tak, jakby włóczyli się, a czasami, jeśli mówią zbyt długo, włóczą się po terytorium nonsensu. Tak. Tak. Ponieważ nie wiedzą, co powiedzą, dopóki tego nie powiedzą. . Tak. Więc to jest bardzo podstawowa różnica. Tak.

John Jantsch (12:20): Ja, ja, z pewnością widziałem pewne wyniki, które były dość interesujące pod tym względem.Ale wiesz, jak słyszałem, jak o tym mówiłeś, mam na myśli to, co robimy na wiele sposobów, to sprawdzanie bazy danych tego, czego nas nauczono, czy słowa, których wiedzieć oprócz pojęć, które studiowaliśmy, uh, i które jesteśmy w stanie wyartykułować. Mam na myśli, że w pewnym sensie zadajemy to pytanie mnie, podpowiadając lub zadając pytanie tobie, to znaczy, to działa podobnie. Czy powiedział byś

Kenneth Wenger (12:47): Aspekt zadawania pytań, a następnie odpowiadania na nie, jest podobny, ale różni się koncepcją, którą próbujesz opisać.Więc znowu, kiedy zadajesz mi pytanie, myślę o tym i wymyślam, więc znowu mam model świata, który jak dotąd działa dla mnie, aby przejść przez życie, prawda? A ten model świata pozwala mi rozumieć różne koncepcje na różne sposoby. A kiedy mam odpowiedzieć na twoje pytanie, myślę o tym, formułuję odpowiedź, a potem wymyślam sposób, aby ci to przekazać. Dobra? Tego kroku brakuje w tym, co robią te modele językowe, prawda? Dostają monit, ale nie ma kroku, w którym formułują odpowiedź z jakimś celem, prawda? Prawidłowy? Tak. Jakiś cel. Zasadniczo dostają tekst i próbują wygenerować sekwencję słów, które są wymyślane podczas ich tworzenia, prawda? Nie ma ostatecznego planu. Więc to jest bardzo podstawowa różnica.

John Jantsch (13:54): A teraz posłuchajmy słów naszego sponsora, marketingu Made Simple.To podcast prowadzony przez Dr. J j Petersona i dostarczany przez HubSpot Podcast Network, miejsce docelowe audio dla profesjonalistów w dziedzinie marketingu w prosty sposób, zawiera praktyczne wskazówki, które ułatwią marketing i, co ważniejsze, sprawią, że będzie działał. A w niedawnym odcinku JJ i April rozmawiają z certyfikowanymi przewodnikami StoryBrand i właścicielami agencji o tym, jak używać ChatGPT do celów marketingowych. Wszyscy wiemy, jak ważne jest to dzisiaj. Posłuchaj marketingu Made Simple. Gdziekolwiek znajdziesz swoje podcasty.

(14:30): Hej, właściciele agencji marketingowych, wiecie, mogę nauczyć was kluczy do podwojenia biznesu w zaledwie 90 dni albo zwrotu pieniędzy.Brzmi interesująco. Wszystko, co musisz zrobić, to uzyskać licencję na nasz trzyetapowy proces, który pozwoli ci sprawić, że twoi konkurenci staną się nieistotni, naliczyć premię za twoje usługi i być może skalować bez zwiększania kosztów ogólnych. A oto najlepsza część. Możesz licencjonować cały system dla swojej agencji, po prostu uczestnicząc w nadchodzącym intensywnym przeglądzie certyfikacji agencji. Po co tworzyć koło? Skorzystaj z zestawu narzędzi, których tworzenie zajęło nam ponad 20 lat. Możesz je mieć już dziś, sprawdź na dtm.world/certification. To certyfikacja DTM World Slash.

(15:18): Chcę polubić to, co przyniesie przyszłość, ale chcę zatrzymać się nad kilkoma rzeczami, o których wspominasz w książce.Czym są, wiesz, inne niż rodzaj strachu, który rozprzestrzeniają media , jakie są prawdziwe, no wiesz, oczywiste pułapki polegające na poleganiu na sztucznej inteligencji?

Kenneth Wenger (15:38): Myślę, że największym problemem i jednym z, mam na myśli, prawdziwym motywatorem dla mnie, kiedy zacząłem pisać książkę, jest to, że jest to potężne narzędzie z dwóch powodów.Pozornie jest bardzo łatwy w użyciu, prawda? Tak. Możesz spędzić weekend ucząc się Pythona, możesz napisać kilka wierszy, możesz przekształcić, możesz analizować, możesz analizować dane, których wcześniej nie mogłeś, po prostu używając biblioteki. Więc tak naprawdę nie musisz rozumieć, co robisz, i możesz uzyskać wynik, który wygląda na użyteczny, dobrze? Mm-hmm. , ale ogrzewanie w tym procesie, prawda? Fakt, że możesz pobrać dużo danych, duże ilości danych, zmodyfikować je w jakiś sposób i uzyskać odpowiedź, uzyskać jakiś wynik bez zrozumienia, co dzieje się w środku, ma ogromne konsekwencje dla niezrozumienia otrzymywanych wyników , Prawidłowy? A potem, jeśli używasz tych narzędzi na świecie, prawda?

(16:42): W, w, w sposób, który może wpłynąć na innych ludzi.Na przykład, wiesz, powiedzmy, że pracujesz w instytucji finansowej i, i, i, i wymyślasz model, aby dowiedzieć się, uh, komu powinieneś, komu powinieneś dać trochę kredytu, uzyskać, no wiesz, zatwierdzenie dla, o kredyt za linię kredytową, a dla kogo nie powinieneś. Teraz, w tej chwili, banki mają swoje własne modele, ale oczywiście, jeśli usuniesz z tego sztuczną inteligencję, modele te są tradycyjnie przemyślane przez statystyków i czasami mogą się pomylić, ale przynajmniej mają duży obraz tego, co to znaczy, wiesz, analizować dane, zniekształcając dane, prawda? Jakie są konsekwencje stronniczości w danych? Jak pozbyć się tych wszystkich rzeczy, to rzeczy, w których dobry statystyk powinien być przeszkolony. Ale teraz, jeśli usuniesz statystyków, ponieważ każdy może użyć modelu do analizy danych i uzyskania prognozy, to co się stanie, to skończysz na odmowie i zatwierdzeniu linii kredytowych dla ludzi, którzy z tobą, no wiesz, z reperkusjami, które mogą być , wiesz, napędzany przez bardzo negatywne nastawienie w danych, prawda?

(17:44): To może mieć negatywny wpływ na pewną część populacji.Może są tacy, którzy nie mogą już dostać linii kredytowej tylko dlatego, że mieszkają w określonej okolicy mm-hmm. , lub oni, wiesz, istnieje wiele powodów, dla których może to stanowić problem,

John Jantsch (17:57): Ale czy to nie było wcześniej czynnikiem?To znaczy, z pewnością sąsiedztwo jest brane pod uwagę , wiesz, jako część, wiesz, nawet w modelach analogowych, jak sądzę.

Kenneth Wenger (18:06): Tak, absolutnie.Tak jak powiedziałem, zawsze mieliśmy problem z uprzedzeniami, prawda? W danych, prawda? Ale tradycyjnie można by mieć nadzieję, że wydarzyłyby się dwie rzeczy. Po pierwsze, można mieć nadzieję, że ktokolwiek opracuje model, tylko dlatego, że jest to złożony problem, musi przejść satysfakcjonujące szkolenie statystyczne. Tak. Prawidłowy? A, etyczny statystyk musiałby rozważyć, jak poradzić sobie z błędem w danych, prawda? Więc to jest numer jeden. Po drugie, problem, który mamy teraz, polega na tym, że po pierwsze nie musisz mieć tej ustalonej decyzji. Możesz po prostu użyć modelu bez zrozumienia, co się dzieje, prawda? Prawidłowy. A najgorsze jest to, że przy tych modelach nie możemy właściwie zrozumieć, w jaki sposób lub tradycyjnie bardzo trudno jest zrozumieć, w jaki sposób pojawił się model lub prognoza. Więc jeśli odmówiono ci linii kredytowej lub, jak mówię o kaucji, na przykład w sprawie sądowej, bardzo trudno jest się spierać, cóż, dlaczego ja? Dlaczego, dlaczego odmówiono mi tej rzeczy? A potem, jeśli przejdziesz ponownie przez proces audytu z tradycyjnym podejściem, w którym masz decyzję, zawsze możesz zapytać, więc jak to modelowałeś? Uh, dlaczego tej osobie odmówiono tej konkretnej sprawy w audycie? Mm-hmm. z a, a, siecią neuronową, na przykład, która staje się o wiele bardziej skomplikowana.

John Jantsch (19:21): Więc mam na myśli to, co mówisz, jednym z początkowych problemów jest to, że ludzie polegają na danych wyjściowych.To znaczy, nawet wiesz, używam go w bardzo prosty sposób. Prowadzę firmę marketingową i używamy jej wiele razy, aby dać nam pomysły na teksty, pomysły na nagłówki, no wiesz, na różne rzeczy. Więc tak naprawdę nie wydaje mi się, żeby było jakieś realne niebezpieczeństwo poza tym, że może brzmię jak wszyscy inni w twoim egzemplarzu. Uh, ale, ale mówisz, że wiesz, kiedy ludzie zaczynają na nich polegać przy podejmowaniu decyzji, które powinny być świadome, wiele razy przewidywania są błędne.

Kenneth Wenger (19:57): Tak.I, i jest bardzo, więc odpowiedź brzmi: tak. Teraz są ku temu dwa powody. A tak przy okazji, pozwólcie, że wrócę i powiem, że istnieją przypadki użycia, w których oczywiście trzeba myśleć o tym jako o widmie, prawda? Jak tak, tak. Są przypadki, w których konsekwencje popełnienia błędu są gorsze niż w innych przypadkach, prawda? Więc jak mówisz, jeśli próbujesz wygenerować jakąś kopię i wiesz, jeśli jest to bezsensowne, po prostu idź dalej i zmień to. I na koniec dnia prawdopodobnie i tak to zrecenzujesz. Więc to jest niższy, prawdopodobnie niższy koszt. Koszt pomyłki będzie tam niższy niż w przypadku, no wiesz, wykorzystania modelu w procesie np. w sądzie. Prawidłowy? Prawidłowy. Prawidłowy. Teraz, w odniesieniu do faktu, że te modele czasami popełniają błędy, powodem tego jest to, że sposób, w jaki te modele faktycznie działają, polega na tym, że one, a część, która może być myląca, polega na tym, że działają one naprawdę dobrze dla obszary w danych, które rozumieją naprawdę dobrze.

(20:56): Więc jeśli myślisz o zbiorze danych, prawda?Więc są przeszkoleni w używaniu zestawu danych dla większości danych w tym zbiorze danych, będą w stanie naprawdę dobrze go modelować. I dlatego otrzymujesz modele, które działają, powiedzmy, z dokładnością 90% na określonym zbiorze danych. Problem polega na tym, że w przypadku tych 10% osób, które nie są w stanie modelować naprawdę dobrze, błędy są niezwykłe iw sposób, w jaki człowiek nie byłby w stanie ich popełnić. Tak. Więc co się dzieje w tych przypadkach, że po pierwsze, kiedy trenujemy te modele, które otrzymujemy, mówimy, no wiesz, mamy 10% wskaźnik błędu w tym konkretnym zbiorze danych. Jedynym problemem jest to, że kiedy weźmiesz to do produkcji, nie wiesz, że częstość występowania tych błędów będzie taka sama w prawdziwym świecie, prawda?

(21:40): Może się okazać, że znajdziesz się w sytuacji, w której te punkty danych, które prowadzą do błędów, będą znacznie częściej niż w twoim zbiorze danych.Tylko jeden problem. Drugi problem polega na tym, że jeśli jesteś w przypadku użycia, jeśli twoja produkcja, no wiesz, aplikacja, to jest taka, w której błąd może kosztować, jak powiedzmy w przypadku użycia medycznego lub w samojezdnym, kiedy musisz cofnąć się i wyjaśnić, dlaczego coś zrobiłeś źle, dlaczego model coś źle zrobił, a to jest po prostu tak dziwnie różne od tego, co zrobiłby człowiek. To jeden z podstawowych powodów, dla których obecnie nie wdrażamy tych systemów w obszarach o kluczowym znaczeniu dla bezpieczeństwa. Nawiasem mówiąc, to jeden z podstawowych powodów, dla których stworzyliśmy splint, aby zająć się konkretnie tymi problemami, dowiedzieć się, jak możemy stworzyć zestaw modeli lub system, który jest w stanie zrozumieć, kiedy modele robią coś dobrze i kiedy robią coś źle w czasie wykonywania. Ponieważ naprawdę tak myślę, jest to jeden z podstawowych powodów, dla których nie posunęliśmy się tak bardzo, jak powinniśmy w tym momencie. To dlatego, że kiedy modele działają naprawdę dobrze, uh, kiedy są w stanie modelować dane, wtedy działają świetnie. Ale w przypadkach, w których nie mogą modelować tej sekcji danych, błędy są po prostu niewiarygodne, prawda? To rzeczy, których ludzie nigdy by nie stworzyli

John Jantsch (23:00): Błąd.Tak tak tak. I oczywiście, wiesz, to z pewnością, to musi zostać rozwiązane, zanim ktokolwiek zaufa wysłaniu, wiesz, człowieka statku kosmicznego, wiesz, kierowanego przez sztuczną inteligencję czy coś, prawda? To znaczy, kiedy wiesz, że ludzkie życie jest zagrożone, musisz mieć zaufanie. Więc jeśli nie możesz ufać temu procesowi decyzyjnemu, to z pewnością powstrzyma ludzi przed stosowaniem tej technologii, jak przypuszczam.

Kenneth Wenger (23:24): Prawda?Lub wykorzystywanie ich, na przykład, do pomocy, jak mówiłem, w dziedzinach medycznych, na przykład w diagnostyce raka, prawda? Jeśli chcesz, aby model był w stanie wykryć określone rodzaje raka, biorąc pod uwagę, powiedzmy, skany biopsji, chcesz mieć zaufanie do modelu. Teraz cokolwiek, w zasadzie każdy model, wiesz, popełnia błędy. Nic nigdy nie jest idealne, ale chcesz, aby wydarzyły się dwie rzeczy. Po pierwsze, chcesz być w stanie zminimalizować rodzaje błędów, które może popełnić model, i musisz mieć pewne wskazówki, że jakość przewidywania modelu nie jest najlepsza. Nie chcesz tego mieć. Tak. A po drugie, kiedy zdarzy się błąd, musisz być w stanie obronić, że przyczyną błędu jest to, że jakość danych była taka, że ​​nawet człowiek nie byłby w stanie zrobić tego lepiej. Tak. Nie możemy pozwolić modelom popełniać błędów, na które ludzki lekarz spojrzałby i powiedział, cóż, to jest oczywiście tak, niepoprawne.

John Jantsch (24:15): Tak.Tak. Absolutnie. Cóż, Ken, chcę wziąć, uh, chcę ci podziękować za poświęcenie chwili na zatrzymanie się przy podcaście marketingowym Duct Tape. Chcesz powiedzieć ludziom, gdzie mogą znaleźć, połączyć się z tobą, jeśli chcesz, a potem oczywiście, gdzie mogą odebrać kopię Czy algorytm spiskuje przeciwko nam?

Kenneth Wenger (24:29): Jak najbardziej.Dziękuję bardzo, przede wszystkim za to, że mnie masz. To była świetna rozmowa. Więc tak, możesz skontaktować się ze mną na LinkedIn i poprosić glinę o kopię książki i dostać ją zarówno z Amazona, jak i ze strony naszego wydawcy, nazywa się working fires.org.

John Jantsch (24:42): Niesamowite.Cóż, jeszcze raz dziękuję za rozwiązanie dzięki świetnej rozmowie. Miejmy nadzieję, że może wpadniemy na ciebie któregoś dnia na drodze.

Kenneth Wenger (24:49): Dziękuję.

John Jantsch (24:49): Hej, jeszcze jedna rzecz przed wyjazdem.Wiesz, jak mówię o strategii marketingowej, strategii przed taktyką? Cóż, czasami może być trudno zrozumieć, na czym stoisz, co należy zrobić, jeśli chodzi o tworzenie strategii marketingowej. Dlatego stworzyliśmy dla Ciebie bezpłatne narzędzie. Nazywa się to oceną strategii marketingowej. Możesz go znaleźć @marketingassessment.co, not.com, dot co. Sprawdź naszą bezpłatną ocenę marketingową i dowiedz się, na jakim etapie jest Twoja strategia już dziś. To tylko ocena marketingowa.co. Chętnie porozmawiam z Tobą o uzyskanych wynikach.