Eerste verhaal waar ik heen ging was van Google en McKinsey, en was best prima. Er is ook al over geschreven door Erwin Blom en Michiel Buitelaar maar ik zal mijn perspectief geven.
Het beeld wat ik er uit haalde was: Je hebt goede data nodig, een goed taalmodel en je mensen moeten snappen wat ze daar aan hebben. Daarmee kan je krachtige impact maken.
Data: Bij Google hebben ze een geweldige codebase: De code waarop bijvoorbeeld Chrome en Search draait. 500,000 manjaar aan werk, met niet alleen goede code maar ook alle wijzigingen worden bijgehouden, alle vragen die ontwikkelaars in fora stellen en de antwoorden. Dus niet alleen het eindproduct maar ook het proces.
Taalmodel: Vanuit Google gezien is hun LLM genaamd Gemini natuurlijk de beste, met een 'context window' van 1 miljoen tokens, veel groter dan de concurrentie. En wat heb je daar aan? Het kan werken met veel meer input data. Documenten, broncode van software, beeld, geluid, etc.
Werkwijze: Iedereen heeft meteen wel iets aan een chat-achtig taalmodel, maar zodra je bijvoorbeeld ontwikkelaars een cursusje geeft om te laten zien hoe ze het meest hebben aan een 'coding co-pilot', stijgt de impact. Niet 20% effectiever, maar 50-70% effectiever werken.
Impact: McKinsey vertelde over een aantal chatbot voorbeelden, o.a. van onze ING. Daar werd een ouderwetse chatbot vervangen door een met generative AI, waardoor er ineens 70% van de inkomende vragen kon beantwoord worden door de chatbot, ipv 40% bij de oude versie. Kassa, maar ook hogere klanttevredenheid. En Google liet zien hoe hun Gemini de ontwikkelaars helpt bij het vinden van bugs, het code reviewen, en verbeteringen voorstellen om code te verbeteren. Er werd zelfs een filmpje getoond waarbij iemand met z'n telefoon gefilmd had hoe een bepaalde bug gebeurde, en dat filmpje was al genoeg voor de AI om de bug te vinden en een oplossing voor te stellen.
Nu is het met Google wel soms de vraag of het een eerlijk voorbeeld was, en wat er omheen gebeurde, maar toch. Een van de verbazende aspecten van generatieve AI is toch dat het je blijft verbazen.