februari 2025

The Future? Open Source!

Artificial Intelligence en Generative AI worden steeds persoonlijker en eenvoudiger om in te zetten.

The Future? Open Source!

Artificial Intelligence en Generative AI zijn niet alleen voor de grote spelers, en ik wil daarbij opmerken dat dat eigenlijk nooit zo is geweest. In de onderbuik van digitale innovaties en ontwikkelingen is de open‑source filosofie al sinds jaar en dag vanzelfsprekend. Mensen creëren en delen hun kennis via whitepapers en repositories (code snippets, modellen, etc.). Deze onderdelen binnen de community zijn aanpasbaar en dupliceerbaar voor wie dat wil.

De snelle evoluties in het AI‑landschap zijn op dezelfde manier tot stand gekomen: Test, share, listen, adapt, share again…. Deze evolutie is globaal en duizenden mensen – of zelfs meer – zijn dagelijks actief in deze community. Dankzij open‑source projecten kan vrijwel iedereen met enige technische kennis er meestal gratis gebruik van maken (let op de licenties).

Maar de grootste evolutie is dat deze verzameling van data en kleine snippets een gigantisch kluwen vormt waarvan niemand nog echt weet wat er allemaal beschikbaar is en al is gemaakt. Maar raad eens? Elke “uit de kluit gewassen” LLM (die je ook lokaal kunt draaien) kan in deze data zoeken en je de weg wijzen naar wat jij wilt weten of maken.

De nieuwste tools maken het mogelijk om geavanceerde AI op je eigen laptop of zelfs telefoon te draaien, terwijl betaalbare hardware en slimme manieren om je eigen data te integreren, de toegang tot AI steeds sneller vergemakkelijken.

01. AI‑modellen worden steeds kleiner en kleiner

Vandaag zien we dat de LLM’s (Large Language Models, modellen die getraind zijn in menselijke taal om te begrijpen, te genereren en te manipuleren) steeds kleiner worden. Begrijp dit niet verkeerd: de grootste modellen hebben meer dan 1 miljard parameters, maar de vraag is: hebben we dat altijd en overal nodig? De tijden dat je een supercomputer nodig had om grote AI-modellen te draaien, zijn voorbij. De nieuwste (vaak open‑source) modellen zijn zo ontworpen dat ze op alledaagse apparaten kunnen draaien. Zo laten projecten zoals TinyLLM zien dat deze modellen zelfstandig werken zonder dat er enorme rekenkracht nodig is.

02. Kleinere, slimmere modellen = goedkopere hardware

De noodzakelijke hardware, zoals CPU’s en GPU’s, wordt steeds meer betaalbaar. Door de gezonde concurrentie in de markt dalen de prijzen, en zelfs cloudservices, waarmee je online rekenkracht kunt huren, worden steeds betaalbaarder. Dit betekent dat we steeds meer toegang hebben tot de (jawel open‑source) technologie die nodig is om AI‑projecten te bouwen en te draaien. Of je nu onderzoek doet, een startup runt of als tech-liefhebber het nodige op je eigen computer installeert met tools zoals Ollama, je hoeft niet langer te investeren in een dure datacenter infrastructuur.

03. Persoonlijke data = Persoonlijke AI‑agent

Een van de meest opwindende ontwikkelingen in open‑source AI is de mogelijkheid om AI te personaliseren met je eigen informatie. Dit gebeurt met een methode die Retrieval‑Augmented Generation (RAG) wordt genoemd – je kunt het zien als het toevoegen van een persoonlijke bibliotheek aan je workflow. Zo maken tools als RAGFlow het mogelijk om je eigen bestanden en data te koppelen aan een eigen AI‑model. Het resultaat is een slimme assistent die jouw specifieke behoeften begrijpt en relevantere antwoorden geeft. Dankzij deze mate van personalisatie zit je niet vast aan een standaard, dure SaaS‑provider; je kunt er een bouwen die precies doet wat jij nodig hebt.

Er bestaan zelfs AI‑tools die jouw data helpen structureren, labelen en optimaliseren – tools die het monotone handwerk van data‑optimalisatie automatiseren.

Conclusie

Open‑source AI maakt geavanceerde technologie toegankelijk voor iedereen. Met slimmere, kleinere modellen die op alledaagse apparaten draaien, dalende kosten van hardware en de mogelijkheid om AI te personaliseren met je eigen data (ondersteund door document intelligence-modellen die je data nog sneller en nauwkeuriger structureren), is de toekomst open en transparant. Je hoeft geen volbloed tech-expert meer te zijn, en in deze snelle evolutie zou het wel eens kunnen dat we sneller dan gedacht onze eigen systemen kunnen bouwen, trainen en toepassen.

Geïnteresseerd in AI consultancy?
Mail gerust -> info@glossy.tv