Articles of फ्लोटिंग सटीकता

पायथन फ्लोट – स्ट्रॉफ फ्लोट विचित्रता

>>> float(str(0.65000000000000002)) 0.65000000000000002 >>> float(str(0.47000000000000003)) 0.46999999999999997 ??? यहाँ क्या हो रहा है? मैं स्ट्रिंग के लिए 0.47000000000000003 को कैसे 0.47000000000000003 और परिणामस्वरूप वापस फ्लोट करने के लिए मान? मैं विंडोज पर पायथन 2.5.4 का इस्तेमाल कर रहा हूँ।

अस्थायी-बिंदु संख्याओं में सटीकता की समस्याओं से निपटना

मैं सोच रहा था कि क्या सटीकता की समस्या पर काबू पाने का एक तरीका है जो मेरे मशीन के अस्थायी बिंदु संख्याओं के आंतरिक प्रतिनिधित्व का परिणाम लगता है: स्पष्टता की खातिर समस्या को संक्षेपित किया गया है: // str is "4.600"; atof( str ) is 4.5999999999999996 double mw = atof( str ) // […]

जावास्क्रिप्ट में फ़्लोट परिशुद्धता के साथ काम करना

मेरे पास जावास्क्रिप्ट में बड़ी मात्रा में संख्यात्मक मान हैं I मैं उनको घूमकर उन्हें x के नजदीकी कई x करके और परिणाम को स्ट्रिंग में कनवर्ट करना चाहता हूं। मैं कष्टप्रद फ़्लोटिंग बिंदु सटीक के आसपास कैसे प्राप्त करूं? उदाहरण के लिए: 0.2 + 0.4 = 0.6000000000000001 दो बातें मैंने कोशिश की हैं: >>> […]

बड़ी संख्या (बीग्नम) को संभालने के लिए जावास्क्रिप्ट में मानक समाधान क्या है?

क्या जावास्क्रिप्ट के लिए एक बिग्नूम लाइब्रेरी है या अंतर्निहित है कि मैं इसमें शामिल कर सकता हूं <script type="text/javascript" src="the_bignum_library.js"></script> ? मुझे लगता है कि मेरे उपयोगकर्ता किसी वेब पेज में नंबर दर्ज करना पसंद करेंगे और एक निष्पादन योग्य डाउनलोड करने के बजाय 7 सेकंड तक इंतजार करना चाहते हैं और इसे स्थापित […]

बड़ी संख्या में जावास्क्रिप्ट में गलती से गोल

यह कोड देखें: <html> <head> <script src="http://www.json.org/json2.js" type="text/javascript"></script> <script type="text/javascript"> var jsonString = '{"id":714341252076979033,"type":"FUZZY"}'; var jsonParsed = JSON.parse(jsonString); console.log(jsonString, jsonParsed); </script> </head> <body> </body> </html> जब मैं फ़ायरफ़ॉक्स 3.5 में अपना कंसोल देखता हूं, तो jsonParsed का मान है: Object id=714341252076979100 type=FUZZY Ie संख्या गोल है। विभिन्न मानों की कोशिश की, एक ही परिणाम (संख्या […]

अस्थायी बिंदु मूल्यों की तुलना करने के लिए कितना खतरनाक है?

मुझे पता UIKit कि UIKit संकल्प स्वतंत्र समन्वय प्रणाली के कारण CGFloat का उपयोग करता है। लेकिन हर बार मैं यह देखना चाहता हूं कि उदाहरण के लिए frame.origin.x 0 मुझे बीमार महसूस करता है: if (theView.frame.origin.x == 0) { // do important operation } == , <= , >= , < , > साथ […]

अस्थायी बिंदु अचूकता उदाहरण

आप ताज़ा प्रोग्रामर और आम आदमी को अस्थायी बिंदु अशुद्धि समझते हैं, जो अब भी सोचते हैं कि कंप्यूटर बेहद बुद्धिमान और सटीक हैं? क्या आपके पास कोई पसंदीदा उदाहरण या उपाख्यान है जो एक सटीक, लेकिन शुष्क, स्पष्टीकरण से बेहतर विचार प्राप्त कर रहा है? यह कंप्यूटर विज्ञान वर्गों में कैसे सिखाया जाता है?

ये संख्याएं समान क्यों नहीं हैं?

निम्नलिखित कोड स्पष्ट रूप से गलत है समस्या क्या है? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15

चल बिन्दु गणित टूट गया है?

0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 ऐसा क्यों होता है?

दिलचस्प पोस्ट
कंसोल अनुप्रयोग में .NET वैश्विक अपवाद हैंडलर PHP और एन्युमरेशन जावास्क्रिप्ट में एस्केप उद्धरण स्टोर खोलने के लिए इस्तेमाल किया जाने वाला मॉडल स्टोर बनाने के लिए इस्तेमाल किए जाने वाले किसी के साथ असंगत है हाइबरनेट मानदंड FetchType.EAGER के साथ कई बार बच्चों को रिटर्न देता है कुछ वस्तुओं को निकालने के लिए "भूलता है" लूप लुक मुद्रण सी 0 में है? एंड्रॉइड: कई क्लिक करने योग्य बटन के साथ सूची दृश्य तत्व jQuery के AJAX फ़ाइल अपलोड PHP सी # के साथ संपीड़न / डीकंप्रेसन स्ट्रिंग jQuery। load () कॉल HTML फ़ाइल को लोड किए जाने में जावास्क्रिप्ट निष्पादित नहीं करता है ऑब्जेक्ट प्रॉपर्टी कैसे सेट करें (ऑब्जेक्ट की संपत्ति ..) को जावास्क्रिप्ट में स्ट्रिंग नेम दिया गया है? सूची शैली छवि स्थिति समायोजित करें? विंडोज़ 10 यूनिवर्सल ऐप फाइल / डायरेक्ट्री एक्सेस java.sql.SQLException पैरामीटर इंडेक्स श्रेणी से बाहर (1> पैरामीटर की संख्या, जो 0 है)