Omri Kohl, generálny riaditeľ a spoluzakladateľ spoločnosti Pyramid Analytics – Séria rozhovorov

Omri Kohl je generálnym riaditeľom a spoluzakladateľom spoločnosti Pyramídová analytika. Platforma pyramídového rozhodovania poskytuje prehľady založené na údajoch pre každého, aby mohol robiť rýchlejšie a inteligentnejšie rozhodnutia. Vedie stratégiu a operácie spoločnosti na rýchlo rastúcom trhu údajov a analýz. Kohl prináša hlboké pochopenie analytiky a technológií AI, cenné manažérske skúsenosti a prirodzenú schopnosť spochybňovať konvenčné myslenie. Kohl je veľmi skúsený podnikateľ s osvedčenými výsledkami v rozvoji a riadení rýchlo rastúcich spoločností. Vyštudoval ekonómiu, financie a podnikový manažment na Bar-Ilan University a získal titul MBA v odbore International Business Management na New York University, Leonard N. Stern School of Business.

Mohli by ste začať vysvetlením, čo je GenBI a ako integruje generatívnu AI s business intelligence na zlepšenie rozhodovacích procesov?

GenBI je rámec ​a mechanika ​preniesť silu ​GenAI, LLM ​a všeobecnej AI​ do analytiky, obchodného spravodajstva a rozhodovania.

V súčasnosti nie je praktické používať iba GenAI na prístup k prehľadom množín údajov. Nahranie dostatočného množstva údajov do vášho nástroja GenAI na získanie zmysluplných výsledkov môže trvať aj týždeň. To jednoducho nie je funkčné, pretože obchodné údaje sú príliš dynamické a príliš citlivé na použitie týmto spôsobom. S GenBI môže ktokoľvek získať cenné poznatky zo svojich údajov, stačí položiť otázku v prirodzenom jazyku a vidieť výsledky vo forme panela BI. Získanie relevantnej a užitočnej odpovede trvá len 30 sekúnd.

Aké sú kľúčové technologické inovácie v pozadí GenBI, ktoré mu umožňujú pochopiť a vykonávať zložité úlohy business intelligence prostredníctvom prirodzeného jazyka?

Bez toho, aby sme prezradili všetky naše tajomstvá, existujú v podstate tri zložky. Po prvé, GenBI vyzve LLM so všetkými prvkami, ktoré potrebujú na vytvorenie správnych analytických krokov, ktoré prinesú požadovaný prehľad. To umožňuje používateľovi vytvárať dopyty pomocou prirodzeného jazyka a dokonca aj vágnych výrazov bez toho, aby presne vedel, aký typ grafu, vyšetrovania alebo formátu má požadovať.

Ďalej riešenie Pyramid Analytics GenBI aplikuje tieto kroky na údaje vašej spoločnosti bez ohľadu na špecifiká vašej situácie. Hovoríme o najzákladnejších súboroch údajov a jednoduchých dopytoch, až po najsofistikovanejšie prípady použitia a zložité databázy.

Po tretie, pyramída môže vykonávať tieto otázky týkajúce sa základných údajov a manipulovať s výsledkami za behu. Samotný LLM nedokáže vytvoriť hĺbkovú analýzu databázy. Potrebujete robotický prvok na nájdenie všetkých potrebných informácií, interpretáciu požiadavky používateľa na vytvorenie prehľadov a jej odovzdanie platforme BI, aby ste mohli formulovať výsledky buď v jednoduchom jazyku, alebo ako dynamickú vizualizáciu, ktorú možno neskôr vylepšiť následnými krokmi. otázky.

Ako GenBI demokratizuje analýzu údajov, najmä pre netechnických používateľov?

Jednoducho, GenBI umožňuje komukoľvek využiť informácie, ktoré potrebuje, bez ohľadu na úroveň ich odbornosti. Tradičné nástroje BI vyžadujú, aby používateľ vedel, ktorá je najlepšia technika manipulácie s údajmi, aby sa dosiahli potrebné výsledky. Väčšina ľudí však neuvažuje v koláčových grafoch, bodových grafoch alebo tabuľkách. Nechcú riešiť, ktorá vizualizácia je pre ich situáciu najefektívnejšia – chcú len odpovede na svoje otázky.

GenBI poskytuje tieto odpovede komukoľvek, bez ohľadu na jeho odbornosť. Používateľ nemusí poznať všetky odborné výrazy ani zisťovať, či je bodový graf alebo koláčový graf tou najlepšou voľbou, a nemusí vedieť kódovať databázové dotazy. Môžu skúmať údaje pomocou vlastných slov v prirodzenom rozhovore.

Považujeme to za rozdiel medzi používaním papierovej mapy na plánovanie trasy a používaním Máp Google alebo inej navigačnej aplikácie. S tradičnou mapou si musíte vypracovať tie najlepšie cesty, popremýšľať o možných dopravných zápchach a porovnať rôzne možnosti trás. Dnes ľudia jednoducho zadajú svoj cieľ do aplikácie a vyrazia na cestu – v algoritmy je taká dôvera, že nikto nespochybňuje navrhovanú trasu. Radi by sme si mysleli, že GenBI prináša rovnaký druh automatizovaného kúzla do firemných dátových súborov.

Aká bola spätná väzba od prvých používateľov o jednoduchosti používania a krivke učenia?

Dostávame prevažne pozitívne ohlasy. Najlepší spôsob, ako to môžeme zhrnúť, je „Wow!“ Používatelia a testeri vysoko oceňujú jednoduchosť používania, výkonné funkcie a zmysluplné poznatky Pyramid.

Pyramid Analytics má prakticky nulovú krivku učenia, takže ľuďom nič nebráni v tom, aby si ju osvojili na mieste. Približne tri štvrtiny všetkých obchodných tímov, ktoré testovali naše riešenie, ho prijali a dnes ho používajú, pretože je také jednoduché a efektívne.

Môžete sa podeliť o to, ako GenBI zmenilo rozhodovacie procesy v organizáciách, ktoré ho implementovali? Nejaké konkrétne prípadové štúdie alebo príklady?

Aj keď sme ho vyvíjali dlho, GenBI sme spustili len pred pár týždňami, takže určite pochopíte, že zatiaľ nemáme plnohodnotné prípadové štúdie, ktoré by sme mohli zdieľať, ani zákazníkovi príklady, ktoré môžeme vymenovať. Môžem vám však povedať, že organizácie, ktoré majú tisíce používateľov, sú zrazu skutočne založené na údajoch, pretože k prehľadom má prístup každý. Používatelia teraz môžu odomknúť skutočnú hodnotu všetkých svojich údajov.

GenBI má transformačný účinok na odvetvia ako poisťovníctvo, bankovníctvo a financie, ako aj maloobchod, výrobu a mnoho ďalších vertikál. Zrazu je možné, že napríklad finanční poradcovia budú môcť využiť okamžité návrhy na najlepší spôsob optimalizácie portfólia zákazníka.

Aké sú niektoré z najväčších problémov, ktorým ste čelili pri vývoji GenBI, a ako ste ich prekonali?

Pyramid Analytics využívala AI na analýzu už mnoho rokov predtým, ako sme spustili nové riešenie, takže väčšina problémov bola už dávno vyriešená.

Hlavným novým prvkom je pridanie dômyselnej technológie generovania dotazov, ktorá spolupracuje s akýmkoľvek LLM na produkovaní presných výsledkov a zároveň zachováva súkromie údajov. Dosiahli sme to oddelením údajov od dopytu (viac o tom o chvíľu).

Ďalšou veľkou výzvou, s ktorou sme sa museli vyrovnať, bola rýchlosť. Hovoríme o ére Google, kde ľudia očakávajú odpovede teraz, nie za hodinu alebo dokonca za pol hodinu. Zabezpečili sme zrýchlenie spracovania a optimalizáciu všetkých pracovných postupov, aby sme znížili trenie.

Potom je potrebné zabrániť halucináciám. Chatboty sú náchylné na halucinácie, ktoré skresľujú výsledky a podkopávajú spoľahlivosť. Usilovne sme pracovali na tom, aby sme sa im vyhli a zároveň sme si zachovali dynamické výsledky.

Ako riešite problémy súvisiace s bezpečnosťou údajov a ochranou súkromia?

To je skvelá otázka, pretože súkromie a bezpečnosť údajov sú najväčšou prekážkou úspešnej analýzy GenAI. Všetci sa – celkom oprávnene – zaujímajú o myšlienku vystavenia vysoko citlivých podnikových údajov nástrojom umelej inteligencie tretích strán, ale chcú tiež možnosti jazykovej interpretácie a prehľad údajov, ktoré tieto nástroje dokážu poskytnúť.

Preto nikdy nezdieľame skutočné údaje s LLM, s ktorými spolupracujeme. Pyramída prevracia celý predpoklad na hlavu tým, že slúži ako sprostredkovateľ medzi informáciami o vašej spoločnosti a LLM. Umožňujeme vám odoslať žiadosť a potom ju odovzdáme LLM spolu s popisom toho, čo nazývame „zložky“, v podstate len metaúdaje.

LLM potom vráti „recept“, ktorý vysvetľuje, ako premeniť otázku používateľa na výzvu na analýzu údajov. Potom Pyramid spustí tento recept na údajoch, ktoré ste už bezpečne pripojili vo svojej vlastnej inštalácii, takže žiadne údaje sa nikdy nedostanú do LLM. Výsledky zmixujeme, aby sme vám ich vrátili v ľahko zrozumiteľnom vizuálnom formáte. V podstate sa nič, čo by mohlo ohroziť vašu bezpečnosť a súkromie, neprezradí ani neopustí bezpečnosť brány firewall vašej organizácie.

Ako vyzerá proces implementácie pre organizácie, ktoré chcú integrovať GenBI do svojich existujúcich dátových infraštruktúr? Sú potrebné nejaké predpoklady alebo prípravy?

Proces implementácie pre Pyramid Analytics nemôže byť jednoduchší ani rýchlejší. Používatelia potrebujú len veľmi málo predpokladov a príprav a celú vec môžete uviesť do prevádzky za menej ako hodinu. Nemusíte presúvať údaje do nového rámca ani nič meniť na svojej stratégii údajov, pretože Pyramid dopytuje vaše údaje priamo tam, kde sa nachádzajú.

Tiež nie je potrebné vysvetľovať vaše údaje k riešeniu alebo definovať stĺpce. Je to také jednoduché ako nahranie súboru údajov CSV alebo pripojenie databázy SQL. To isté platí pre všetky relačné databázy akéhokoľvek druhu. Pripojenie údajov trvá len niekoľko minút a o niekoľko sekúnd neskôr môžete položiť svoju prvú otázku.

To znamená, že štruktúru môžete vyladiť, ak chcete, napríklad zmeniť model spojenia alebo predefinovať stĺpce. Trvá to nejaký čas a úsilie, ale hovoríme o minútach, nie o niekoľkomesačnom vývojovom projekte. Naši zákazníci sú často šokovaní, že Pyramid je v prevádzke na ich klasickom dátovom sklade alebo dátovom jazere približne do piatich minút.

Na dosiahnutie silných výsledkov tiež nemusíte vymýšľať veľmi konkrétne, presné alebo dokonca inteligentné otázky. Môžete robiť pravopisné chyby a používať nesprávne formulácie a Pyramid ich rozlúšti a poskytne zmysluplnú a hodnotnú odpoveď. Čo potrebujete, sú určité znalosti o údajoch, na ktoré sa pýtate.

Ak sa pozriete do budúcnosti, aká je vaša strategická vízia pre Pyramid Analytics na nasledujúcich päť rokov? Ako vidíte, že sa vaše riešenia vyvíjajú, aby vyhovovali meniacim sa požiadavkám trhu?

Ďalšou veľkou hranicou je podpora škálovateľných, vysoko špecifických dopytov. Používatelia túžia po tom, aby mohli klásť veľmi presné otázky, ako sú otázky o personalizovaných entitách, a LLM ešte v týchto prípadoch nedokážu produkovať inteligentné odpovede, pretože nemajú taký podrobný prehľad o špecifikách vašej databázy.

Stojíme pred výzvou, ako používať jazykové modely na pýtanie sa na špecifiká vašich údajov bez okamžitého pripojenia celého vášho gigantického dátového jazera k LLM. Ako doladíte svoj LLM o údaje, ktoré sa rehydratujú každé dve sekundy? Môžeme to zvládnuť pre pevné body, ako sú krajiny, miesta a dokonca aj dátumy, ale nie pre niečo výstredné, ako sú mená, aj keď sme k tomu dnes veľmi blízko.

Ďalšou výzvou je pre používateľov možnosť pýtať sa na svoje vlastné matematické interpretácie údajov pomocou vlastných vzorcov. Je to ťažké nie preto, že je ťažké uzákoniť vzorec, ale preto, že pochopiť, čo používateľ chce, a získať správnu syntax je náročné. Pracujeme na vyriešení oboch týchto výziev, a keď sa nám to podarí, prekročíme ďalší bod heuréky.

Ďakujeme za skvelý rozhovor, čitatelia, ktorí sa chcú dozvedieť viac, by mali navštíviť Pyramídová analytika.