Apple har oppdatert Foundation Models-rammeverket med bedre håndtering av kontekstvindu, ifølge InfoQ. Endringen retter seg mot hvordan modellene velger, bevarer og prioriterer relevant kontekst gjennom lengre arbeidsflyter.
For utviklere kan dette redusere både token-sløsing og kvalitetstap i lengre samtaler eller flertrinnsoppgaver. I praksis betyr det mer stabile svar når apper kombinerer flere kall mot samme modell og må bevare sammenheng over tid.
Timingen er viktig fordi Apple samtidig bygger ut AI-funksjoner…
Timingen er viktig fordi Apple samtidig bygger ut AI-funksjoner på tvers av egne plattformer. Bedre kontekststyring kan gi mer forutsigbar ytelse i produkter som kjører lokalt eller i hybrid med sky.