ChatUiT

Norsk

Lansert 2. oktober 2023, ChatUiT drives av GPT-4o og o3 mini-modellen. ChatUiT er godkjent for bruk med grønn, gul og rød data. Tjenesten er gratis for alle studenter og ansatte ved UiT og kan nås på chat.uit.no med UiT-brukernavn og passord.

Nyttig å vite om ChatUiT:

Standardmodellen som brukes er GPT-4o, men du kan velge andre modeller fra rullegardinmenyen.

Du kan justere temperaturen på ChatUiT-modellen. Temperaturparameteren styrer hvor tilfeldig og kreativ teksten som genereres blir. Justeringen påvirker modellens output på følgende måter:
- Lav temperatur (f.eks. 0,2): Modellen gir mer deterministiske og fokuserte svar, med høy sannsynlighet for nøyaktighet. Dette er ideelt for oppgaver som krever presisjon og konsistens, som kodegenerering eller teknisk skriving.
- Høy temperatur (f.eks. 0,7): Modellen genererer mer varierte og kreative svar ved å vurdere et bredere spekter av mulige ord. Dette er nyttig for kreativ skriving eller idémyldring.

Du kan kontrollere maksimal lengde på ChatUiTs svar. Standardverdien er 1024 tokens, men du kan øke denne opp til maksimalt 4096 tokens.

Samtalene dine lagres i syv dager. Etter dette blir de automatisk slettet. Hvis du ønsker å lagre samtalene dine permanent, må du markere dem som favoritter.

Systemprompt-alternativet lar deg endre standardinstruksjonene til modellen basert på dine behov. Du kan finne eksempler på ulike «roller» du kan gi ChatUiT ved å velge forskjellige systemprompter.

Du har muligheten til å laste ned samtalene dine. Dette er spesielt nyttig dersom du blir bedt om å dokumentere dine spørsmål og ChatUiTs svar. Det finnes også alternativer for å importere gamle samtaler og slette all data.

Alle samtalene dine er kryptert og trygt lagret på Azure-servere. Ingen har tilgang til samtalene dine, og de brukes ikke til å trene den underliggende GPT-modellen.

o3 mini vs GPT 4o-modell

o3 mini-modellen utviklet av OpenAI er en «resonnerende» modell.

Resonnering i store språkmodeller (LLM-er) refererer til deres evne til å bearbeide informasjon, trekke logiske slutninger og generere sammenhengende svar basert på mønstre de har lært fra store mengder tekst.

Tankegangen («chain of thought») i en resonnerende LLM følger en stegvis prosess der den bryter ned et problem i mindre logiske trinn, henter frem relevante mønstre fra treningsdata, bruker sannsynlighetsbasert resonnering for å utlede sammenhenger, og genererer et strukturert svar basert på kontekstuelle signaler.

Selv om LLM-er kan etterligne menneskelignende resonnering—som deduktiv, induktiv og abduktiv resonnering—er de hovedsakelig basert på sannsynlighetsbaserte assosiasjoner fremfor ekte forståelse eller bevisst tenkning.

Ikke-resonnerende LLM-er (GPT 4o) er raskere og mer effektive på oppgaver som omfatter gjenfinning, tekstgenerering og enkel klassifisering.

Resonnerende LLM-er (o3 mini) presterer betydelig bedre innen matematikk, logikk, koding, flerstegs-resonnering og problemløsning fordi de bruker strukturerte resonneringsteknikker.

In English

Launched on 2^nd of October 2023, ChatUiT is powered by GPT-4o and o3 mini models. ChatUiT is approved for use with green, yellow, and red data. The service is free for all of UiT’s students and employees and is accessed at chat.uit.no with UiT username and password.

Good to know about ChatUiT:

The default model used is GPT-4o. However, you can choose different models from the drop-down menu.

You will have an option to set the temperature of ChatUiT model. The temperature parameter controls the randomness and creativity of the generated text. Adjusting the temperature influences the model's output in the following ways:

Low Temperature (e.g., 0.2): The model produces more deterministic and focused responses, favoring high-probability words. This setting is ideal for tasks requiring accuracy and consistency, such as code generation or technical writing.

High Temperature (e.g., 0.7): The model generates more diverse and creative outputs by considering a broader range of possible words. This is suitable for creative writing or brainstorming sessions.

You can also control the maximum length of ChatUiT's output. The default is 1024 tokens, but you can increase this value to maximum of 4096 tokens.

Your chats are saved for the period of seven days. After that, they will be automatically deleted. If you want to save your chats indefinitely, you will have to mark them as favourites.

System prompt option allows you to change the default instructions to the model based on your needs. You can find examples of different "roles" you can give ChatUiT by choosing different system prompts..

You have an option to download your chat(s). This is particularly useful if you are asked to provide your prompts and ChatUiT's outputs. There are also options to import old chats and to delete all data.

All of your chats are encrypted and safely stored on Azure servers. No one has access to your chats, and your chats with ChatUiT are not used to train the underlying GPT model.

o3 mini vs GPT 4o model

o3 mini model developed by OpenAI is a "reasoning" model.

Reasoning in LLMs refers to their ability to process information, draw logical inferences, and generate coherent responses based on patterns learned from vast amounts of text.

The chain of thought in a reasoning LLM follows a step-by-step process where it breaks down a problem into smaller logical steps, recalls relevant patterns from training data, applies probabilistic reasoning to infer connections, and generates a structured response based on contextual cues.

While LLMs can mimic human-like reasoning—such as deductive, inductive, and abductive reasoning—they primarily rely on probabilistic associations rather than true understanding or conscious thought.

Non-reasoning LLMs (GPT 4o) are faster and efficient for tasks involving retrieval, language generation, and simple classification.

Reasoning LLMs (o3 mini) significantly outperform in math, logic, coding, multi-hop reasoning, and problem-solving because they use structured reasoning techniques.