Egész szám túlcsordulás

Szerző: Louise Ward
A Teremtés Dátuma: 11 Február 2021
Frissítés Dátuma: 1 Július 2024
Anonim
Egész szám túlcsordulás - Technológia
Egész szám túlcsordulás - Technológia

Tartalom

Meghatározás - Mit jelent az egész szám túlcsordulása?

Az egész szám túlcsordulása a CPU arra irányuló kísérlete eredménye, hogy aritmetikai úton generáljon egy nagyobb számot, mint ami az elkötelezett memória tárolóhelyén elfér. A számtani műveleteknek mindig lehet váratlan értékeket visszatéríteni, ami olyan hibát okozhat, amely az egész programot leállítja. Ezért a legtöbb programozó inkább a matematikai műveleteket kivételkeretben hajtja végre, ami egész szám túlcsordulás esetén ad kivételt.


Az egész túlcsordulást aritmetikai túlcsordulásnak is nevezik.

Bevezetés a Microsoft Azure és a Microsoft Cloud | A jelen útmutató során megtanulja, mi szól a felhőalapú számítástechnikából, és hogyan segítheti a Microsoft Azure a felhőből történő migrációt és az üzleti vállalkozás futtatását.

A Techopedia magyarázza az egész szám túlcsordulását

Az egész szám túlcsordulása akkor fordulhat elő, ha a programfejlesztő nem engedélyezi a negatív szám előfordulását. Ebben az esetben, ha egy változó negatív számot eredményező műveletet hajt végre, akkor túlcsordulás történik, és a változót pozitív egész számként adják vissza. Az egész szám túlcsordulásának másik példája a szám nullával való elosztása, amely matematikailag nagy számot eredményez végtelen értékkel.


A processzor viselkedése egész szám túlcsordulás esetén processzoronként eltérő. A grafikus feldolgozó egységeket és a digitális jelfeldolgozókat számos aritmetikai feltételre, többek között az egész túlcsordulásra tervezték. Egész számú túlcsordulás esetén ezek a processzorok általában visszaadják a megengedett maximális számot.