Lokale AI versus Microsoft Copilot voor bedrijven

Wat is het wezenlijke verschil?

Copilot is een clouddienst van Microsoft die werkt met de inhoud van uw Microsoft 365-omgeving. Lokale AI is een taalmodel op een toestel in uw eigen serverruimte, gekoppeld aan de systemen die u zelf kiest. Het verschil zit dus op twee plaatsen: waar de gegevens verwerkt worden, en welke gegevens de assistent kan bereiken.

Dit artikel steunt voor Copilot alleen op de documentatie van Microsoft zelf. Die documentatie wijzigt geregeld. Controleer de bronnen onderaan voor u een beslissing neemt. Microsoft meldt er ook dat Microsoft 365 Copilot voortaan Microsoft Copilot heet.

Waar worden uw gegevens verwerkt?

Bij Copilot gebeurt de verwerking in de cloud van Microsoft. Bij lokale AI gebeurt ze op het toestel in uw gebouw, en verlaat een vraag of document uw netwerk niet. Voor klanten in de EU heeft Microsoft bijkomende verbintenissen rond de EU Data Boundary.

Volgens de pagina van Microsoft over data, privacy en beveiliging geldt het volgende:

• Prompts, antwoorden en gegevens die via Microsoft Graph worden opgehaald, worden niet gebruikt om de basismodellen te trainen.
• Verkeer van EU-gebruikers blijft binnen de EU Data Boundary. Oproepen naar het taalmodel gaan naar de dichtstbijzijnde datacenters, en kunnen bij hoge belasting naar andere regio's gaan waar capaciteit is.
• Modellen die Anthropic als subverwerker levert, vallen volgens dezelfde pagina momenteel buiten de EU Data Boundary. Een beheerder beslist of die modellen gebruikt worden.
• Bij zoeken op het web stuurt Copilot een afgeleide zoekopdracht naar de zoekdienst Bing.
• Prompts en antwoorden worden bewaard als activiteitsgeschiedenis, versleuteld. Beheerders stellen bewaartermijnen in via Microsoft Purview, gebruikers kunnen hun geschiedenis wissen.

De EU Data Boundary omvat de landen van de EU en de EVA. Microsoft verbindt zich ertoe klantgegevens en persoonsgegevens van zijn zakelijke onlinediensten, waaronder Microsoft 365, daarbinnen op te slaan en te verwerken. Microsoft schrijft er zelf bij dat er beperkte gevallen blijven waarin gegevens buiten die grens gaan, en documenteert die apart. Microsoft 365-klanten met een aanmeldlocatie in de EU of EVA vallen binnen de grens. Klanten met Multi-Geo vallen erbuiten.

Onder de AVG blijft u in beide gevallen verwerkingsverantwoordelijke. U heeft een verwerkersovereenkomst nodig met elke partij die toegang heeft tot persoonsgegevens, en u legt bewaartermijnen vast. De AI-verordening legt daarnaast verplichtingen op aan wie AI-systemen inzet, los van de plaats waar het model draait.

Welke gegevens kan de assistent bereiken?

Copilot haalt inhoud en context op via Microsoft Graph: documenten, e-mails, agenda, chats, vergaderingen en contacten. Het toont alleen wat de gebruiker zelf mag zien. Wat buiten Microsoft 365 leeft, zoals uw boekhoudpakket, uw planning of uw telefooncentrale, ziet Copilot niet vanzelf.

Microsoft voorziet daarvoor uitbreidingen: Microsoft Graph-connectoren en agents. Gegevens uit zo'n connector kunnen in een antwoord terechtkomen wanneer de gebruiker er rechten op heeft. Voor veel KMO-pakketten bestaat geen kant-en-klare connector. Dan moet die gebouwd worden, en dat is integratiewerk zoals bij elke andere oplossing.

Lokale AI vertrekt van de andere kant. Er is niets standaard gekoppeld, alles wordt gebouwd op uw systemen. Dat kost meer werk bij de start, maar het laat toe een vraag te beantwoorden als "welke werkbonnen van deze klant zijn nog niet gefactureerd", met gegevens uit de planning en het ERP samen. Ook de mailbox en de telefonie kunnen aan hetzelfde dossier hangen.

Een praktisch aandachtspunt bij Copilot: omdat het de bestaande rechten volgt, worden slordig ingestelde rechten ineens zichtbaar. Microsoft raadt zelf aan de rechtenmodellen van diensten zoals SharePoint correct te gebruiken. Bij lokale AI zet u het rechtenmodel op bij de bouw, wat werk vraagt maar ook een kans is om op te ruimen.

Hoe verschilt het kostenmodel?

Copilot is een licentie per gebruiker. Volgens de licentiepagina van Microsoft is het een add-on: u heeft eerst een van de vermelde Microsoft 365-, Office 365- of andere basisabonnementen nodig. Lokale AI heeft vooral vaste kosten die niet stijgen per gebruiker.

Dezelfde pagina maakt een onderscheid binnen Copilot Chat. De chat die op het web zoekt, zit zonder meerkost in een in aanmerking komend abonnement. De chat die met uw werkgegevens werkt, vraagt een Copilot-licentie. Prijzen vermelden we hier niet, omdat ze wijzigen. U vindt ze bij Microsoft of bij uw licentiepartner.

Voor vijf gebruikers is een licentie per gebruiker doorgaans de goedkoopste weg. Bij grotere teams, of bij automatische taken die elke binnenkomende mail voorbereiden, verschuift de rekening. Alle kostenposten staan in het artikel wat kost lokale AI voor een KMO.

Hoeveel beheer vraagt elk van beide?

Copilot vraagt geen beheer van hardware of modellen: Microsoft doet dat. Uw werk zit in licenties toewijzen, rechten en gevoeligheidslabels op orde houden en bewaartermijnen instellen. Lokale AI vraagt dat iemand het toestel beheert: updates, monitoring, back-ups en herstel bij een defect.

Voor een KMO zonder IT-dienst is dat laatste alleen haalbaar wanneer de leverancier het beheer op zich neemt. Bij Arqen zitten onderhoud, updates en monitoring in de vaste maandprijs. Valt het toestel uit, dan werkt u verder zoals voordien.

Zijn lokale modellen even goed als de modellen achter Copilot?

Nee, niet op elk vlak. De grootste modellen draaien alleen in grote datacenters en zijn sterker in lange redeneringen, complexe analyses en brede algemene kennis. Lokale modellen zijn kleiner, omdat ze in het geheugen van uw toestel moeten passen.

Voor het dagelijkse werk van een KMO weegt dat minder door dan men denkt. Een mail beantwoorden op basis van de klantgeschiedenis, een offerte opstellen uit uw eigen prijzen of een gesprek samenvatten vraagt vooral de juiste gegevens, niet het grootste model. Waar de grenzen liggen, leest u in het artikel kan bedrijfs-AI volledig binnen het eigen netwerk draaien.

Microsoft schrijft zelf dat antwoorden van generatieve AI niet gegarandeerd feitelijk juist zijn en dat gebruikers ze moeten nakijken. Dat geldt even goed voor lokale modellen. In beide gevallen beslist een medewerker.

Van wie wordt u afhankelijk?

Bij Copilot van Microsoft: de prijs, de voorwaarden, de gebruikte modellen en de functies kunnen wijzigen zonder uw inspraak. Microsoft vermeldt dat de modellen regelmatig vernieuwd worden. Bij lokale AI wordt u afhankelijk van uw integrator en van de hardware. Vraag daarom vooraf hoe u uw gegevens terugkrijgt. Bij Arqen krijgt u ze in een leesbaar formaat en is er geen opzegvergoeding.

Wanneer is Copilot de betere keuze?

• Uw werk zit vooral in Outlook, Word, Excel, Teams en SharePoint.
• Uw rechten in Microsoft 365 zijn op orde, of u wil ze op orde brengen.
• U heeft een beperkt aantal gebruikers en wil snel starten zonder bouwtraject.
• U heeft de sterkste modellen nodig voor analyse en lange teksten.
• De verbintenissen van Microsoft rond de EU Data Boundary volstaan voor uw gegevens.

Wanneer is lokale AI de betere keuze?

• De antwoorden moeten uit uw ERP, planning, telefonie of dossiers komen, niet alleen uit Microsoft 365.
• U verwerkt gegevens die u niet bij een derde partij wil laten verwerken, of uw klanten eisen dat.
• Veel medewerkers gebruiken het systeem dagelijks en u wil een vaste kost.
• U wil automatische voorbereiding van mails, offertes of werkbonnen zonder teller per gebruik.
• Er is iemand die het beheer doet, intern of bij uw leverancier.

Kunnen beide naast elkaar bestaan?

Ja. Copilot blijft dan de hulp binnen Word, Excel en Teams, voor wie daar een licentie voor heeft. Het lokale systeem doet het werk dat aan uw eigen bedrijfsgegevens hangt: mails voorbereiden met de klantgeschiedenis ernaast, offertes uit uw prijzen, werkbonnen in de planning. Uw mail in Microsoft 365 blijft waar hij is. Het lokale systeem leest die via de koppelvlakken van Microsoft.

Spreek in dat geval duidelijk af welke gegevens in welk systeem gebruikt mogen worden. Zo weten uw mensen waar een klantendossier thuishoort en waar niet. Meer over de lokale opzet leest u op de pagina over lokale AI.