Articles of सटीक

टी-एसक्यूएल दशमलव भाग सटीकता

क्या किसी को पता है, क्यों SQLServer 2005 का उपयोग कर? SELECT CONVERT(DECIMAL(30,15),146804871.212533)/CONVERT(DECIMAL (38,9),12499999.9999) मुझे 11.7443896970 9 65 9 देता है, लेकिन जब मैं हर दशमलव पर दशमलव स्थानों को 15 में बढ़ाता हूं, मुझे कम सटीक जवाब मिलता है: SELECT CONVERT(DECIMAL(30,15),146804871.212533)/CONVERT(DECIMAL (38,15),12499999.9999) मुझे 11.74438 9 69 दें

सी # तिथि समय.अब परिशुद्धता

मैं कुछ यूनिट परीक्षण करते समय dateTime.UtcNow के साथ कुछ अप्रत्याशित व्यवहार में बस गया था। ऐसा प्रतीत होता है कि जब आप तेजी से उत्तराधिकार में डेटटाइम.Now / UtcNow को कॉल करते हैं, तो आपको लगता है कि आपको अधिक सटीक मिलीसेकंद वेतन वृद्धि हासिल करने के बजाय समय से अधिक अपेक्षित अंतराल के […]

आर में प्रिंट आउटपुट में दशमलव अंकों की संख्या को नियंत्रित करना

डिजिट डिस्प्ले पर नियंत्रण पाने के लिए आर में एक विकल्प है। उदाहरण के लिए: options(digits=10) आर सत्र के अंत तक 10 अंक में गणना के परिणाम देना माना जाता है। आर की मदद फ़ाइल में, पैरामीटर के लिए परिभाषा निम्नानुसार है: अंकों: संख्यात्मक मानों को छापते समय मुद्रित करने के लिए अंकों की संख्या […]

16-, 32- और 64-बिट आईईईई -754 प्रणालियों में कितनी संख्याओं का प्रतिनिधित्व किया जा सकता है?

मुझे थोड़ा सा पता है कि फ़्लोटिंग-बिंदु संख्याओं का प्रतिनिधित्व कैसे होता है, लेकिन पर्याप्त नहीं, मुझे डर लग रहा है। सामान्य प्रश्न यह है: किसी दिए गए परिशुद्धता के लिए (मेरे उद्देश्यों के लिए, आधार 10 में सटीक दशमलव स्थानों की संख्या), 16-, 32- और 64-बिट आईईईई -754 प्रणालियों के लिए कितनी संख्याओं का […]

मैं 21.4 के रूप में 21.499999618530273 जैसे कुछ मान के लिए एक डबल वैरिएबल प्रारंभिक क्यों देखूं?

double r = 11.631; double theta = 21.4; डीबगर में, इन्हें 11.631000000000000 और 21.399999618530273 रूप में दिखाया गया है। इससे कैसे बचा जा सकता है?

दशमलव बनाम डबल! – मैं किस का उपयोग करना चाहिए और कब?

मैं सी # में युगल का उपयोग कर लोगों को देख रहा हूं। मुझे पता है कि मैंने कहीं पढ़ा है कि युगल में कभी भी सटीकता खो जाती है मेरा प्रश्न यह है कि जब दो बार उपयोग करना चाहिए और मुझे दशमलव प्रकार का कब उपयोग करना चाहिए? पैसे कंप्यूटिंग के लिए कौन […]

PHP – फ़्लोटिंग नंबर प्रेसिजन

$a = '35'; $b = '-34.99'; echo ($a + $b); 0.009999999999998 में परिणाम उस के साथ क्या हो रहा है? मुझे आश्चर्य है कि क्यों मेरे प्रोग्राम ने अजीब परिणाम रिपोर्ट किए। PHP क्यों नहीं अपेक्षित 0.01 लौटाता है?

दो दशमलव अंकों को फ़्लोट करना सीमित है

मैं a को 13.95 पर गोल करना चाहता हूं। >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 round फ़ंक्शन, जिस तरह से मैं उम्मीद करता था काम नहीं करता।

MATLAB में 24.0000 के बराबर 24.0000 क्यों नहीं है?

मैं एक प्रोग्राम लिख रहा हूं जहां मुझे एक मैट्रिक्स में डुप्लिकेट अंक को मिटाने की ज़रूरत है। समस्या यह है कि जब यह जांचने की बात आती है कि उन बिंदु मैट्रिक्स में हैं या नहीं, तो MATLAB उन्हें मैट्रिक्स में पहचान नहीं सकता है, हालांकि वे मौजूद हैं। निम्न कोड में, intersections फ़ंक्शन […]

दिलचस्प पोस्ट
मैं जावा में एक सरणी को कैसे घोषित और आरम्भ करूं? दस्तावेज निर्देशिका (एनएसडी दस्तावेज़ डायरेक्टरी) क्या है? पारदर्शी आधा चक्र एक div से बाहर काट दिया संकेतक, स्मार्ट पॉइंटर्स या साझा पॉइंटर? तीन। जेएस यूवी समन्वय उत्पन्न करते हैं H.264 स्ट्रीम के लिए अनुक्रम / चित्र पैरामीटर सेट (एस) के लिए संभावित स्थान PHP का उपयोग करते हुए ईमेल कैसे भेजें? एक अनप्लग्ड वर्चुअल सीरियल पोर्ट जारी करना MySQL एक संख्या से ऑर्डर, नल पिछले मैं कैसे कुंजी से एक शब्दकोश सॉर्ट कर सकते हैं? WPF / C # के साथ IE WebBrowser नियंत्रण के बजाय क्रोमियम एम्बेड करने के लिए विकल्प dplyr फिल्टर: कम से कम चर के साथ पंक्तियाँ प्राप्त करें, लेकिन केवल पहले अगर बहुत से मिनिमा sqlite3 समवर्ती पहुंच खोज आदेश के साथ regex का उपयोग कैसे करें? प्रबंधन स्टूडियो से तेज़ी से वेब से बुलाया जाने पर संग्रहीत प्रक्रिया धीमी हो जाती है