Thema Datum  Von Nutzer Rating
Antwort
Rot Überlauf (#6) bei bitweisem Vergleich
06.10.2011 10:33:48 Udo
NotSolved
10.10.2011 12:16:20 Dekor
****
NotSolved
10.10.2011 13:47:29 Udo
Solved

Ansicht des Beitrags:
Von:
Udo
Datum:
06.10.2011 10:33:48
Views:
2855
Rating: Antwort:
  Ja
Thema:
Überlauf (#6) bei bitweisem Vergleich

Hallo,

ich möchte bei sehr großen Zahlen (bis 2^53)  abprüfen, ob bestimmte 2er-Potenzen enthalten sind. Obwohl ich mit der Funktion CDec() arbeite kommt es bei dem Bit-Vergleich mit "And" zu einem Überlauf.

Beispiel:

    Dim test_1          As Variant
    Dim test_2          As Variant
    Dim test_3          As Variant
   
    test_1 = CDec(2 ^ 26) * CDec(2 ^ 27)
    test_2 = CDec(2 ^ 16)
    test_3 = CDec(test_1 And test_2)
   
Die Zuweisung an "test_3" führt zum Überlauf. Gibt es für den Operator "And" einen Höchstwert, bis zu dem dies nur möglich ist? In der Hilfe und über "googlen" war nichts offensichtlich zu finden.

Vielen Dank und Grüße

Udo


Ihre Antwort
  • Bitte beschreiben Sie Ihr Problem möglichst ausführlich. (Wichtige Info z.B.: Office Version, Betriebssystem, Wo genau kommen Sie nicht weiter)
  • Bitte helfen Sie ebenfalls wenn Ihnen geholfen werden konnte und markieren Sie Ihre Anfrage als erledigt (Klick auf Häckchen)
  • Bei Crossposting, entsprechende Links auf andere Forenbeiträge beifügen / nachtragen
  • Codeschnipsel am besten über den Code-Button im Text-Editor einfügen
  • Die Angabe der Emailadresse ist freiwillig und wird nur verwendet, um Sie bei Antworten auf Ihren Beitrag zu benachrichtigen
Thema: Name: Email:

 
 

  • Bitte beschreiben Sie Ihr Problem möglichst ausführlich. (Wichtige Info z.B.: Office Version, Betriebssystem, Wo genau kommen Sie nicht weiter)
  • Bitte helfen Sie ebenfalls wenn Ihnen geholfen werden konnte und markieren Sie Ihre Anfrage als erledigt (Klick auf Häckchen)
  • Bei Crossposting, entsprechende Links auf andere Forenbeiträge beifügen / nachtragen
  • Codeschnipsel am besten über den Code-Button im Text-Editor einfügen
  • Die Angabe der Emailadresse ist freiwillig und wird nur verwendet, um Sie bei Antworten auf Ihren Beitrag zu benachrichtigen

Thema Datum  Von Nutzer Rating
Antwort
Rot Überlauf (#6) bei bitweisem Vergleich
06.10.2011 10:33:48 Udo
NotSolved
10.10.2011 12:16:20 Dekor
****
NotSolved
10.10.2011 13:47:29 Udo
Solved