Siit juhendist leiad juhised Azure OpenAI API teenuse kohta.

(info) In English


Tartu Ülikooli infotehnoloogia osakond (ITO) on koostöös arenduspartneriga loonud uue lahenduse, mis võimaldab kasutada Azure OpenAI API teenust. See teenus kasutab OpenAI 3.5 Turbo, 4.0 ja 4.0-turbo keelemudeleid, mis on tuntud oma võime poolest genereerida sisu, teha mahukatest andmetest kokkuvõtteid, teostada semantilisi otsinguid, tõlkida loomulikku keelt koodiks ja palju muud.

Lisaks tehnilisele API lahendusele, on võimalik kasutada ChatGPT mudelitel põhinevat Microsoft Copilot (Bing Chat Enterprise) rakendust, mille abil läbi mugava kasutajaliidese tehisintellektilt abi küsida sarnaselt ChatGPT tekstirobotile. Selle lahenduse kohta on rohkem infot juhendist Microsoft 365 Copilot Chat.

Järgnev kirjeldus keskendub Azure OpenAI API ligipääsude taotlemisele. Azure OpenAI API teenus kasutab sisendina erinevaid ChatGPT keelemudeleid, sealhulgas GPT 3.5, 4.0 ja muud (täpsemalt mudelite kohta siin lingil: https://learn.microsoft.com/en-us/azure/ai-services/openai/concepts/models).

Ligipääsu taotlemine

API ligipääsu taotlemiseks tuleb arvestada järgmiste valikutega:

  • Taotluse esitaja on kõige suuremate õigustega kasutaja Azure'i portaalis (contributor) ning see kasutaja saab määrata erinevaid teisi atribuute nagu limiidid, teavitused ja teiste kasutajate õigused.
  • Regioonide valik tuleb teha API võtmele ligipääsu andmisel. Saadaval on järgmised regioonid ja neile vastavad keelemudelid (täpsemalt Microsofti regioonide lehel:
    • Sweden Central: o1-preview, o1-mini, gpt-4o, gpt-4o-turbo, gpt-4o-mini, gpt-35, text-embedding-ada-002, dall-e 3, tts, tts-hd, whisper, mistral-large
    • Switzerland North regioon: gpt-35-turbo, gpt-35-turbo-16k, gpt-4, gpt-4-32k, gpt-4 turbo with vision, text-embedding-ada-002
    • West Europe regioon: gpt-35-turbo, text-embedding-ada-002, whisper

NB! Regioonide valikust tulenevalt saab valida kas ühe või teise näiteks whisper mudeli kasutamiseks tuleb valida regioon West Europe ja ei saa kasutada GPT 4.0 mudelit, mis on kasutusel Switzerland North regioonis.

  • Hinnastamine: tegemist on tasulise teenusega, arved esitatakse kvartalipõhiselt. Vaikimisi saab teha 1000 päringut 24 tunni jooksul, aga arvestada tuleb kirjamärkide (tokenite) arvuga. Kirjamärkide hinna saab välja arvutada Microsofti hinnastamismudeli alusel. 
    Täpsema informatsiooni hinnastamise kohta leiad siit: https://azure.microsoft.com/en-us/pricing/details/cognitive-services/openai-service/. Hindade kuvamiseks tuleb valida soovitud regioon ning vastavalt kuvatakse hinnad.
  • Finantsallikad: tuleb määrata teenusele ligipääsu taotlemisel. Arvutiabi pilet tuleb teha läbi e-posti aadressil arvutiabi@ut.ee, kuhu on finantsallika käsutaja cc-sse pandud. Taotluse esitaja vastutab finantsallika käsutajaga kooskõlastuse eest.
  • Limiidid ja kasutus: Azure'i portaalis saab ressursigrupi (resource group) lõikes määrata rahalise limiidi. Lisaks saab määrata summa, mille täitumisel tuleb teavitus. Juba kulunud summat on võimalik Azure'i portaalist vaadata (Cost Management → Budgets). Seda saab teha see kasutaja, kes on ressursigrupi omanik (contributor õigustes). Limiitide ja Azure'i portaali kasutamise kohta pikemalt allolevas juhendis (inglise keeles). Vaikimisi on kuulimiit 1000 eurot, kuid soovitame oma limiidi soovi täpsustada. Hiljem saab ressursigrupi omanik (contributor) seda ka ise Azure'i portaalis muuta. NB! Juhime tähelepanu, et kasutajaid teavitatakse teenusele seadistatud limiidi ületamise korral ja kuulimiidi ületamisega ei katke tavapärane teenuse kasutamine. Limiitide ja Azure OpenAI teenuse haldamise kohta on rohkem infot Microsofti dokumentatsioonis: https://learn.microsoft.com/en-us/azure/ai-services/openai/how-to/manage-costs.
  • Kasutaja õigused saab seadistada Azure'i portaalis ning õiguste küsimisel tuleks seda täpsustada. Näiteks on saadaval lugeja (reader) ja redigeerija (contributor) rollid, mille kohta täpsemat informatsiooni siit: https://learn.microsoft.com/en-us/azure/ai-services/openai/how-to/role-based-access-control.

Kopeeritav vorm

NB! Loodava AzureOpenAI keskkonna nimi:

Azure OpenAI API teenuse ligipääsu taotlemiseks saada järgnev vorm arvutiabile:

  • To: arvutiabi@ut.ee
  • Cc: finantsallika käsutaja
  • Subject: Azure OpenAI API teenuse taotlus
Teenuse taotlus:
Taotluse esitaja nimi:
E-post:
Loodava AzureOpenAI keskkonna nimi: 
Finantsallika number:
Finantsallika käsutaja nimi ja e-post:
Soovitud kuulimiit (vaikimisi 1000 eurot kuus):
Soovitud päringute arv 24h jooksul (vaikimisi 1000 päringut 24 tunni jooksul): 
Keelemudel(id):
Soovitud õigused kasutaja(te)le:

API teenuse seadistamise juhend (inglise keeles)

Sisufiltrite konfigureerimine

Microsoft rakendab Azure OpenAI teenuses sisemisi sisufiltreid, kuid annab võimaluse neid filtreid avalduse alusel kohandada. Avalduses tuleb selgelt määratleda, millise kasutusloo jaoks soovitakse sisufiltreid konfigureerida. Tartu Ülikool on esitanud avalduse järgmise kasutusloo jaoks:

Töötlemine struktureeritud ja struktureerimata andmete põhjal:
Kasutajad saavad analüüsida sisendeid, kasutades klassifitseerimist, tekstide sentimentide analüüsi või üksuste eraldamist. Näiteks võib analüüsida toote tagasiside sentimenti, vaadata üle tugikõnede transkriptsioone või täiustada tekstipõhist otsingut kasutades peidetud seoseid (embeddings).

Avalduses on kinnitatud, et sisufiltreid ei kasutata ühelgi teisel juhul. Kui teie uurimisrühmal on vajadus sisufiltrite konfigureerimiseks mõne muu kasutusloo tarbeks, siis palun tehke arvutiabisse pöördumine. Võimalikud kasutuslood on täpsustatud avalduse vormis (punkt 24): Azure OpenAI Limited Access Review: Modified Content Filtering.