Umělá inteligence krade data, varoval Marc Benioff ze Salesforce, a představil vlastní AI

Jazykové modely umělé inteligence budou podle Marca Benioffa chtít firemní data. AI platforma Salesforce Einstein 1 má být důvěryhodnější.

Šéf a spoluzakladatel společnosti Salesforce Marc Benioff se opřel do prudkého rozvoje umělé inteligence v poslední době. Stalo se tak během konference Dreamforce, kterou jeho společnost pořádala minulý týden v San Francisku. Odkázal dokonce na filmy jako Terminátor nebo Minority Report, které mohou reprezentovat špatný směr rozvoje AI. Kritizoval, jakým způsobem velké jazykové modely (LLM) využívané generativní AI využívají data. Tak fungují i AI nástroje vytvářené společnostmi jako Amazon, Google nebo Microsoft.

„Tyto velké jazykové modely jsou hladové po datech nás všech. Díky nim se stávají chytřejšími. Společnosti využívající LLM stojí na algoritmech, ty fungují jen když mají vaše data. A většinou tato data ukradly. Nebo jdou prostě na internet a berou data, jaká můžou,“ hřímal Benioff během svého vystoupení, a pokračoval: „A další sady dat, které budou chtít, jsou vaše firemní data. Jen díky tomu budou chytřejší.“

Kritizoval také fakt, že leckteré nástroje generativní AI dávají nepravdivé odpovědi na dotazy, kterým se říká halucinace. „Já tomu říkám lži,“ dodal rázně.

Uznal ale, že jsme v době AI revoluce, do níž investuje prakticky každý byznys. A Salesforce u toho samozřejmě nechybí.  Po sérii důrazných varování tak představil novou AI platformu Einstein 1, kterou Salesforce zapojí do svých nástrojů. Na rozdíl od dnes dostupných modelů má být ale důvěryhodná. Díky propojení dat možní firmám mimo jiné vytvářet personalizované zákaznické zkušenosti.

„Chceme vybudovat důvěryhodnou AI platformu tak, aby každý mohl být Einstein, aby každý mohl být produktivnější. Důvěra je pro nás nejvyšší priorita,“ dodal Benioff.

Mimochodem Benioffovi může vadit využívání všelijakých dat velkými jazykovými modely i proto, že mu od roku 2018 patří časopis Time. To potvrdil i v rozhovoru s redaktorkou Ellen Thomas pro Business Insider. „Jako pro majitele média je to pro mě velký problém, protože v těch modelech nacházím i obsah z Time. Mediální společnosti se probouzejí a zjišťují, že jim někdo krade obsah,“ prohlásil a uvedl, že nástroje AI nepoužívají takzvaný scraping, kdy stahují modely data z internetu.

Jazykové modely umělé inteligence budou podle Marca Benioffa chtít firemní data. AI platforma Salesforce Einstein 1 má být důvěryhodnější.Hlavní architektka pro AI a technologie Salesforce Kathy Baxter pak doplnila, že Salesforce využívá data zákazníků jen se souhlasem před využitím jakýchkoli open-source dat pro trénování AI je právně prověřuje.