Articles of फ्लोटिंग सटीकता

(.1f + .2f ==। 3f)! = (.1f + .2f)। एक्लॉज (.3f) क्यों?

मेरा प्रश्न अस्थायी सटीक के बारे में नहीं है यही कारण है कि क्यों Equals() == से अलग है मुझे समझ में क्यों .1f + .2f == .3f false (जबकि .1m + .2m == .3m true )। मुझे लगता है कि == संदर्भ है और .Equals() मूल्य तुलना है ( संपादित करें : मुझे पता […]

फ़्लोटिंग बिंदु समानता और सहनशीलता

a_float == b_float जैसे दो फ्लोटिंग प्वाइंट नंबर की तुलना मुसीबत की तलाश में है क्योंकि a_float / 3.0 * 3.0 गोल की त्रुटि के कारण a_float के बराबर नहीं हो सकता। आम तौर पर जो कुछ करता है वह fabs(a_float – b_float) < tol के समान है एक को कैसे गणना करता है? आदर्श […]

प्रतिनिधित्व में फ़्लोटिंग प्वाइंट एरर?

जब मैं यह गुणा करता हूँ 0.94 * 8700 उत्पादन है ८१७७.९९९९९९९९९९९९ लेकिन यह होना चाहिए था 8178 मैं जावा का उपयोग कर रहा हूँ, लेकिन मुझे नहीं लगता कि यह त्रुटि एक विशेष प्रोग्रामिंग भाषा से संबंधित है, अब मेरा सवाल है … ऐसा क्यों हुआ ?? और अन्य संख्याएं (एक उदाहरण के रूप […]

कैसे ठीक से और मानक रूप से तुलना फ्लोट्स?

हर बार जब मैं एक नई परियोजना शुरू करता हूं और जब मुझे कुछ फ़्लोट या डबल वैरिएबल की तुलना करने की आवश्यकता होती है तो मैं इस तरह से कोड लिखता हूं: if (fabs(prev.min[i] – cur->min[i]) < 0.000001 && fabs(prev.max[i] – cur->max[i]) < 0.000001) { continue; } फिर मैं इन जादू चर 0.000001 (और […]

जावास्क्रिप्ट में दांतेदार दशमलव संख्याएं (गोल नहीं)

मैं दशमलव स्थानों को दशमलव संख्याओं को छोटा करने की कोशिश कर रहा हूं। कुछ इस तरह: 5.467 -> 5.46 985.943 -> 985.94 toFixed(2) सिर्फ सही चीज़ के बारे में है, लेकिन यह मूल्य को बंद करता है मुझे मूल्य गोल की आवश्यकता नहीं है I उम्मीद है कि जावास्क्रिप्ट में यह संभव है।

जावा में फ्लोटिंग पॉइंट की तुलना करना और तुलना करना

जावा में चल बिन्दु अंकगणित ठीक प्रतिनिधित्व नहीं करता है। उदाहरण के लिए यह जावा कोड: float a = 1.2; float b= 3.0; float c = a * b; if(c == 3.6){ System.out.println("c is 3.6"); } else { System.out.println("c is not 3.6"); } प्रिंट "सी 3.6 नहीं है" मुझे 3 दशकों से अधिक परिशुद्धता में […]

पायथन फ़्लोटिंग प्वाइंट अनियमित परिशुद्धता उपलब्ध है?

बस मस्ती के लिए और क्योंकि यह वास्तव में आसान था, मैंने ग्राफ्टिंग नंबर बनाने के लिए एक छोटा कार्यक्रम लिखा है, लेकिन फ़्लोटिंग प्वाइंट सटीक मुद्दों के कारण यह कुछ बड़े उदाहरणों को नहीं खोज रहा है। def isGrafting(a): for i in xrange(1, int(ceil(log10(a))) + 2): if a == floor((sqrt(a) * 10**(i-1)) % 10**int(ceil(log10(a)))): […]

पायथन फ्लोट – स्ट्रॉफ फ्लोट विचित्रता

>>> float(str(0.65000000000000002)) 0.65000000000000002 >>> float(str(0.47000000000000003)) 0.46999999999999997 ??? यहाँ क्या हो रहा है? मैं स्ट्रिंग के लिए 0.47000000000000003 को कैसे 0.47000000000000003 और परिणामस्वरूप वापस फ्लोट करने के लिए मान? मैं विंडोज पर पायथन 2.5.4 का इस्तेमाल कर रहा हूँ।

अस्थायी-बिंदु संख्याओं में सटीकता की समस्याओं से निपटना

मैं सोच रहा था कि क्या सटीकता की समस्या पर काबू पाने का एक तरीका है जो मेरे मशीन के अस्थायी बिंदु संख्याओं के आंतरिक प्रतिनिधित्व का परिणाम लगता है: स्पष्टता की खातिर समस्या को संक्षेपित किया गया है: // str is "4.600"; atof( str ) is 4.5999999999999996 double mw = atof( str ) // […]

जावास्क्रिप्ट में फ़्लोट परिशुद्धता के साथ काम करना

मेरे पास जावास्क्रिप्ट में बड़ी मात्रा में संख्यात्मक मान हैं I मैं उनको घूमकर उन्हें x के नजदीकी कई x करके और परिणाम को स्ट्रिंग में कनवर्ट करना चाहता हूं। मैं कष्टप्रद फ़्लोटिंग बिंदु सटीक के आसपास कैसे प्राप्त करूं? उदाहरण के लिए: 0.2 + 0.4 = 0.6000000000000001 दो बातें मैंने कोशिश की हैं: >>> […]

दिलचस्प पोस्ट
क्रन्टैब का उपयोग किस प्रकार पर्यावरण चर सेट कर सकता हूँ? फ़ायरफ़ॉक्स में एक चुनिंदा तत्व से तीर कैसे निकालें टाइमस्टैम्प पर लागू होने पर समान गुणों के साथ समय क्षेत्र के नाम अलग परिणाम उत्पन्न करते हैं आइफ्रेम में सामग्री सम्मिलित करें रिकर्सिव फ़ोल्डर को कॉपी करें, कुछ फ़ोल्डर्स को छोड़कर बंडल निर्माण के बाद Symfony3 ClassNotFound अपवाद आधुनिक पर्ल डिफ़ॉल्ट रूप से UTF-8 से क्यों बचता है? कैसे bash में कर्सर स्थिति प्राप्त करने के लिए? MySQL डाटा – पेजिंग को लागू करने का सबसे अच्छा तरीका है? बाह्य इनलाइन जीटी यूआरएल पैरामीटर को संरक्षित करने के लिए .htaccessRewriteRule रिसाइकिलरदृश्य: असंगति का पता चला अमान्य आइटम स्थिति जावा जेनरिक सुपर कीवर्ड Windows के अंतर्गत C ++ में स्मृति का उपयोग कैसे करें LINQ: संग्रह में सभी ऑब्जेक्ट की संपत्ति पर मैक्स () कैसे करें और ऑब्जेक्ट को अधिकतम मान के साथ वापस लाएं