Hjem Udvikling Hvad er heltaloverløb? - definition fra techopedia

Hvad er heltaloverløb? - definition fra techopedia

Indholdsfortegnelse:

Anonim

Definition - Hvad betyder heltalsoverløb?

Heltalsoverløb er resultatet af et CPU-forsøg på aritmetisk at generere et tal, der er større end hvad der kan passe ind i den dedikerede hukommelseslagerplads. Aritmetiske operationer har altid potentialet til at returnere uventede værdier, hvilket kan forårsage en fejl, der tvinger hele programmet til at lukke ned. Af denne grund foretrækker de fleste programmerere at udføre matematiske operationer inden for en undtagelsesramme, hvilket i stedet returnerer en undtagelse i tilfælde af heltaloverløb.

Heltalsoverløb kaldes også aritmetisk overløb.

Techopedia forklarer Integer Overflow

Et eksempel på heltaloverløb kan forekomme, når en programudvikler ikke tillader forekomst af et negativt tal. I dette tilfælde, hvis en variabel udfører en operation, der resulterer i et negativt tal, forekommer et overløb, og variablen returneres som et positivt heltal. Et andet eksempel på heltaloverløb ville være at dele et tal med nul, hvilket matematisk giver et stort antal med en uendelig værdi.

En processors opførsel i tilfælde af et heltaloverløb adskiller sig fra en processor til en anden. Grafikbehandlingsenheder og digitale signalprocessorer er konstrueret til at håndtere mange aritmetiske forhold, herunder heltaloverløb. I et tilfælde med heltaloverløb returnerer disse processorer typisk det maksimalt tilladte antal.

Hvad er heltaloverløb? - definition fra techopedia