Hallo, ik ben Otsuka, CTO bij Liberogic. Ik merk dat het ontwikkelen van interne applicaties tegenwoordig mogelijk is op basis van spontane ideeën. Claude Code was het grote katalysator hiervoor.
De evolutie van LLM en kostenveranderingen
De afgelopen jaren zijn LLM's (grote taalmodellen) in soorten en nauwkeurigheid toegenomen, en tegelijkertijd is de kosteneffectiviteit aanzienlijk verbeterd.
OpenAI kondigde onlangs gpt-oss aan. Dit wordt nu al in verschillende LLM-hostingservices geïntegreerd. In de prijslijst van Groq voor gpt-oss-120b zie je al behoorlijk lage prijzen.
Zelfs bij complexe prompts kunnen de kosten verwaarloosbaar zijn, zolang het gaat om enkele honderden keren per maand.
De trigger: 'samenvatting van contactaanvragen'
Onze website heeft een contactformulier, en we bedrijven al enige tijd een systeem dat de inhoud ervan automatisch samenvat met AI en naar Slack stuurt.
Maak uw e-mailformulier gemakkelijk! Laat AI u helpen met spam- en commerciële e-mails
Echter, ik gebruikte alleen een eenvoudige prompt met gpt-4o. Ik wilde de nauwkeurigheid verbeteren door gpt-oss te gebruiken.
"Wat als medewerkers die daadwerkelijk met vragen omgaan, hun eigen prompts zouden kunnen maken?"
Ik dacht erover na, maar om prompts te testen moest ik "het LLM API aanroepen via een Node-programma, de gegevens van eerdere vragen erin plakken en dit uitvoeren om te verifiëren". Voor engineers is dit eenvoudig, maar voor directors is dit een behoorlijke drempel.
Dat bracht me op het idee: een "playground" van een AI-service maken voor intern gebruik
Wat ik maakte, is één webapplicatie
De specificatie is erg eenvoudig.
- Aan de linkerkant een invoerveld voor prompts
- Laad eerdere vragen uit Notion
- Roep de Groq API aan en geef de resultaten rechts weer
Met al deze functies kan de directeur meteen een omgeving hebben om te experimenteren.
In het verleden zou zelfs een intern hulpmiddel van deze omvang veel tijd vergen voor infrastructuurvoorbereiding en serveropstelling, maar nu kan het snel worden opgezet in een omgeving zoals Cloudflare Workers. Bovendien, zodra de vereisten duidelijk zijn, kan ClaudeCode het programmagedeelte in enkele minuten voor je maken.
De totale tijd die werd besteed was slechts ongeveer 2 uur.
Van idee tot voltooiing duurde het ongeveer 2 uur ※.
Het werd diezelfde dag gepubliceerd en het team, inclusief de interne directeuren, kon het meteen gaan testen.
Wat mij opvalt is niet dat niet-engineers AI kunnen gebruiken.
"Omdat we snel interne applicaties kunnen maken, kunnen we niet alleen engineers, maar ook anderen in het team betrekken bij het ontwikkelingsproces" — dat is het meest interessante.
Bouw in korte tijd doelgerichte hulpmiddelen en verbeter ze terwijl het hele team ze test.
Ik geloof dat dit soort aanpak projecten in de toekomst veel spannender zal maken.
※De meeste tijd werd besteed aan het begrijpen van hoe je clientsidescripts instelt met Hono + Vite, niet aan het programmagedeelte zelf.
De ruggengraat van Liberogics technische afdeling. Als we horen 'ik wou dat we dit hadden, het zou erg handig zijn', voegt deze persoon met aangeboren slimheid direct meerwaarde toe en implementeert het in een mum van tijd. Met uitstekende communicatievaardigheden en veel fans onder onze klanten: de schat van ons bedrijf, en iemand die gek is op katten.
Sho
Directeur CTO / Chief Engineer / Directeur van Nekoana LLC / Onredelijk jong uitziend