Täisarv ülevool

Autor: Louise Ward
Loomise Kuupäev: 11 Veebruar 2021
Värskenduse Kuupäev: 1 Juuli 2024
Anonim
Täisarv ülevool - Tehnoloogia
Täisarv ülevool - Tehnoloogia

Sisu

Definitsioon - mida tähendab täisarvu ületäitumine?

Täisarvu ületäitumine on protsessori katse tulemus genereerida aritmeetiliselt suurem arv, kui mahub pühendatud mäluruumi. Aritmeetiliste toimingute tulemuseks on alati ootamatute väärtuste tagastamine, mis võib põhjustada tõrke, mis sunnib kogu programmi välja lülitama. Sel põhjusel eelistavad enamik programmeerijaid matemaatilisi toiminguid teostada erandi kaadris, mis tagastab erandi täisarvu ületäitumise korral.


Täisarvu ületäitumist nimetatakse ka aritmeetiliseks ületäitumiseks.

Sissejuhatus Microsoft Azure'i ja Microsoft Cloud | Kogu selle juhendi kaudu saate teada, mis on pilvandmetöötlus ja kuidas Microsoft Azure aitab teil pilvest rännata ja oma ettevõtet juhtida.

Techopedia selgitab täisarvu ületäitumist

Üks täisarvu ületäitumise näide võib ilmneda siis, kui programmi arendaja ei luba negatiivse arvu esinemist. Sel juhul, kui muutuja teostab operatsiooni, mille tulemuseks on negatiivne arv, toimub ülevool ja muutuja tagastatakse positiivse täisarvuna. Teine näide täisarvu ületäitumisest oleks arvu jagamine nulliga, mis annab matemaatiliselt suure arvu lõpmatu väärtusega.

Protsessori käitumine täisarvu ületäitumise korral on protsessoriti erinev. Graafikaprotsessorid ja digitaalsed signaaliprotsessorid on loodud toime tulema paljude aritmeetiliste tingimustega, sealhulgas täisarvuga ülevooluga. Täisarvu ületäitumise korral tagastavad need protsessorid tavaliselt maksimaalse lubatud arvu.