ChatAI-ratkaisu yrityksen omilla servereillä

Artikkelin lukuaika

2 min

Open source on riippumaton kolmansista osapuolista. Se myös mahdollistaa datan säilyttämisen vaikka yrityksen omilla servereillä.

Open source -ratkaisut, joilla voi luoda omia ChatGPT:n kaltaisia sovelluksia, ovat kesän aikana ottaneet huimia kehitysloikkia. Osa markkinoille tulleista avoimen lähdekoodin ratkaisuista yltää jo ihmisten tekemissä arvioinneissa ChatGPT:n tasolle.  

Open source on riippumaton kolmansista osapuolista. Se myös mahdollistaa datan säilyttämisen vaikka yrityksen omilla servereillä. Avoimen lähdekoodin ratkaisut sopivat siis myös GDPR:n alaisen ja bisneskriittisen datan käsittelyyn.

Yksi kiinnostavimmista avoimen lähdekoodin ChatAI-ratkaisuista on Metan heinäkuussa julkaisema Llama 2, joka on menestynyt hyvin testeissä. Llama 2:sta on saatavilla kolmea eri kokoa, joista pienin tuottaa vanhemmallakin läppärillä sanan sekunnissa, suurin vaatii NVIDIA:n järeämpää GPU-voimaa.

Testaamaan nopeasti pääsee kuitenkin myös ilman tehokonetta mm. avoimen lähdekoodin tekoälyohjelmistojen arviointiin keskittyvällä Hugging Face -sivustolla.

Mainittava on, että OpenAI:n laaja kielimalli GPT-4 on vielä Llama 2:ta edellä. On myös todennäköistä, että kaupallisten toimijoiden etumatka säilyy myös tulevaisuudessa. Open source on silti mm. tietosuoja- ja turvasyistä yritysten omaan käyttöön harkitsemisen arvoinen vaihtoehto.  

Tarve kokeneelle tekoälykumppanille?

Tänä päivänä on mahdollista kehittää ChatGPT:n kaltainen sovellus, joka hyödyntää vain yrityksen sisäisiä tietolähteitä ja käyttää moottorinaan ChatGPT:n veroista tekoälymallia. Sovellus on mahdollista rakentaa OpenAI:n kielimallilla Azureen niin, että data säilyy Euroopassa. Open source -ratkaisut mahdollistavat ratkaisun rakentamisen myös niin, että data säilyy omilla servereillä.

Tekoälyasiantuntijamme ovat tutkineet molempia vaihtoehtoja ja auttaneet asiakkaitamme oikean mallin löytämisessä.

Varaa sparrailuaika kalenteristamme. Voimme samalla kertoa, mitä kaikkea olemme vuosien varrella tehneet tekoälyn ja koneoppimisen saralla.

Toimitusjohtaja, myynti