Topics

Hallo, ik ben Otsuka, CTO bij Liberogic. Ik heb het gevoel dat we een tijdperk zijn ingegaan waarin interne app-ontwikkeling nu naar believen kan worden gedaan. ClaudeCode was een belangrijke katalysator hiervoor.

De evolutie van LLM en veranderingen in kosten

De afgelopen jaren is het aantal typen en de nauwkeurigheid van LLM's (grootschalige taalmodellen) toegenomen en zijn hun kosteneffectiviteit ook verbeterd.

OpenAI heeft onlangs aangekondigdgpt-ossHet is al opgenomen in verschillende LLM-hostingdiensten.Groq van gpt-oss-120bAls je naar de prijslijst kijkt, is het een zeer lage prijs.

Zelfs bij complexe prompts zijn de kosten verwaarloosbaar als u ze een paar honderd keer per maand uitvoert.

De trigger was "Onderzoeksamenvatting"

Onze website heeft een aanvraagformulier en we gebruiken al geruime tijd een systeem dat AI gebruikt om de inhoud samen te vatten en naar Slack te sturen.

Maak uw e-mailformulier handiger! Laat AI u helpen met spam en verkoopmails.

Ik gebruikte echter een eenvoudige prompt met gpt-4o en wilde de nauwkeurigheid verbeteren door gpt-oss te gebruiken.

"Zou het niet interessant zijn als de medewerkers die daadwerkelijk op vragen reageren hun eigen prompts zouden kunnen creëren?"

Dat dacht ik ook, maar om de prompt te testen, moest ik oude querygegevens in een Node-programma plakken dat de LLM API zou aanroepen, uitvoeren en verifiëren. Hoewel dit eenvoudig is voor een engineer, is het een behoorlijke uitdaging voor een director.

Dus ik kwam op het idee,Het creëren van een interne 'speeltuin' voor AI-dienstenDat is

Ik heb één webapplicatie gemaakt.

De specificaties zijn heel eenvoudig.

• Snel invoerveld aan de linkerkant
• Laad eerdere aanvraaggegevens die in Notion zijn opgeslagen
• Roep de Groq API aan en toon de resultaten rechts

Ook al is het alleen deze functie, het creëert een omgeving waarin directeuren het meteen kunnen uitproberen.

Vroeger duurde het lang om de infrastructuur voor te bereiden en de servers te bouwen, zelfs voor een interne tool van deze omvang, maar nuCloudflare WorkersJe kunt het snel opzetten in een omgeving als deze. En zodra je de programmavereisten hebt bepaald, maakt ClaudeCode het binnen enkele minuten voor je aan.

Het duurde maar ongeveer twee uur

Van het bedenken van het idee tot de uitwerking ervan duurde het slechts twee uur*.

Het werd diezelfde dag uitgebracht en iedereen in het bedrijf, inclusief onze directeur, kon het meteen uitproberen.

Wat mij het meest opvalt, is dat niet-ingenieurs nu AI kunnen gebruiken.

"Omdat we snel interne applicaties kunnen creëren, kunnen we niet alleen ingenieurs, maar ook mensen om ons heen bij het ontwikkelingsproces betrekken." --Dat is het meest interessante onderdeel.

Je kunt in korte tijd doelgerichte tools creëren en deze verbeteren naarmate het hele team ermee aan de slag gaat.

Ik heb het gevoel dat dit soort bewegingen toekomstige projecten nog spannender zullen maken.

*Wat mij het langst heeft gekost, was niet het programmeren zelf, maar het uitzoeken hoe ik client-side scripts in Hono + Vite moest opzetten.