Articles of सटीक

जावास्क्रिप्ट 2 दशमलव स्थानों पर एक फ्लोट दिखा रहा है

मैं एक नंबर को दो दशमलव स्थानों पर प्रदर्शित करना चाहता था मैंने सोचा कि मैं जावास्क्रिप्ट में toPrecision(2) उपयोग कर सकता हूं हालांकि, यदि संख्या 0.05 , तो मुझे 0.0500 मिलता है। मैं इसे एक ही रहना चाहता हूँ इसे JSbin पर देखें इसे करने का बेहतरीन तरीका क्या है? मैं कुछ समाधान कोडिंग […]

घड़ी () फ़ंक्शन का उपयोग करके कार्यों को शेड्यूल करने के दौरान समस्या

मैं अलग-अलग समय के अंतराल पर कार्य करना चाहता हूं: 0.1 सेकेंड, 0.9 एस …. 2 एस इत्यादि पर मैं घड़ी () सी ++ फ़ंक्शन का उपयोग करता हूं जो सिमुलेशन की शुरुआत के बाद से टिक की संख्या देता है और मैं टिक्ल्स नंबर को सेकेंड का उपयोग कर CLOCKS_PER_SEC लेकिन मैंने देखा है […]

दोहरे मूल्य के दशमलव स्थानों की सही संख्या 'cout' कैसे करें?

मुझे double की सटीकता रखने में सहायता की आवश्यकता है अगर मैं एक डबल को एक शाब्दिक असाइन करता हूं, तो वास्तविक मान काट दिया गया था। int main() { double x = 7.40200133400; std::cout << x << "\n"; } उपरोक्त कोड स्निपेट के लिए, आउटपुट 7.402 था क्या इस तरह के टंकण को ​​रोकने […]

0.0 और 1.0 के बीच कितने डबल नंबर हैं?

यह कुछ वर्षों से मेरे दिमाग पर है, लेकिन मैंने कभी भी इससे पहले पूछने का समय नहीं लिया। कई (छद्म) यादृच्छिक संख्या जनरेटर 0.0 और 1.0 के बीच एक यादृच्छिक संख्या उत्पन्न करते हैं। गणितीय इस श्रेणी में अनंत संख्याएं हैं, लेकिन double एक अस्थायी बिंदु संख्या है, और इसलिए एक सीमित परिशुद्धता है। […]

अनुकरण "डबल" 2 "फ्लोट" एस का उपयोग करना

मैं एक एम्बेडेड हार्डवेयर के लिए एक प्रोग्राम लिख रहा हूं जो केवल 32-बिट एकल-सटीक फ़्लोटिंग-पॉइंट अंकगणितीय का समर्थन करता है। एल्गोरिथ्म मैं लागू कर रहा हूं, हालांकि, 64-बिट डबल-स्पेसिजन अतिरिक्त और तुलना की आवश्यकता है। मैं दो float एस के ट्यूपल का उपयोग करके double डेटाटाइप का अनुकरण करने का प्रयास कर रहा हूं। […]

जावा में फ़्लोट्स के साथ प्रेसिजन त्रुटि

मैं सोच रहा हूं कि सटीक त्रुटियों को ठीक करने का सबसे अच्छा तरीका जावा में है जैसा कि आप निम्न उदाहरण में देख सकते हैं, सटीक त्रुटियां हैं: class FloatTest { public static void main(String[] args) { Float number1 = 1.89f; for(int i = 11; i < 800; i*=2) { System.out.println("loop value: " + […]

प्रोग्राम प्रदर्शन को मापने के लिए लिनक्स में एक उच्च संकल्प टाइमर कैसे तैयार करें?

मैं CPU प्रदर्शन की तुलना करने के लिए GPU की तुलना करने की कोशिश कर रहा हूं NVIDIA GPU के लिए मैं एक सटीक समय प्राप्त करने के लिए cudaEvent_t प्रकारों का उपयोग कर रहा हूं। CPU के लिए मैं निम्नलिखित कोड का उपयोग कर रहा हूं: // Timers clock_t start, stop; float elapsedTime = […]

दशमलव सटीक समायोजन, .net

इन पंक्तियों को सी # में decimal a = 2m; decimal b = 2.0m; decimal c = 2.00000000m; decimal d = 2.000000000000000000000000000m; Console.WriteLine(a); Console.WriteLine(b); Console.WriteLine(c); Console.WriteLine(d); यह आउटपुट उत्पन्न करता है: 2 2.0 2.00000000 2.000000000000000000000000000 तो मैं देख सकता हूँ कि एक शाब्दिक से एक दशमलव चर बनाने से मुझे सटीकता को नियंत्रित करने की […]

टी-एसक्यूएल दशमलव भाग सटीकता

क्या किसी को पता है, क्यों SQLServer 2005 का उपयोग कर? SELECT CONVERT(DECIMAL(30,15),146804871.212533)/CONVERT(DECIMAL (38,9),12499999.9999) मुझे 11.7443896970 9 65 9 देता है, लेकिन जब मैं हर दशमलव पर दशमलव स्थानों को 15 में बढ़ाता हूं, मुझे कम सटीक जवाब मिलता है: SELECT CONVERT(DECIMAL(30,15),146804871.212533)/CONVERT(DECIMAL (38,15),12499999.9999) मुझे 11.74438 9 69 दें

सी # तिथि समय.अब परिशुद्धता

मैं कुछ यूनिट परीक्षण करते समय dateTime.UtcNow के साथ कुछ अप्रत्याशित व्यवहार में बस गया था। ऐसा प्रतीत होता है कि जब आप तेजी से उत्तराधिकार में डेटटाइम.Now / UtcNow को कॉल करते हैं, तो आपको लगता है कि आपको अधिक सटीक मिलीसेकंद वेतन वृद्धि हासिल करने के बजाय समय से अधिक अपेक्षित अंतराल के […]

दिलचस्प पोस्ट
गिट में एक खास प्रतिबद्धता को वापस लाएं, जो कि दूरस्थ रीपो पर धकेल दिया गया है jQuery: पहले बनाम। प्रथम () स्टोरीबोर्ड का उपयोग कब करें और XIBs का उपयोग कब करें PHP: कैसे संभाल <! [सीडीएटीए [सरलएक्सएमलेमेंट के साथ? AngularJS का उपयोग कर ASP.NET वेब एपीआई पद्धति से फ़ाइल डाउनलोड करें आर डेटा में डेटा के शीर्ष एन मानों को कैसे खोजें या श्रेणी के भीतर (समूहवार) खोजें AVAssetReader के माध्यम से ऑडियो नमूने पढ़ना आप पायथन में दो चर के लॉजिकल एक्सओर कैसे प्राप्त करते हैं? फास्ट और कॉम्पैक्ट ऑब्जेक्ट सीरियललाइज़ेशन में एनएटी स्काला पहचानकर्ता "निहित" क्या है? एक फ़ाइल पर सीधा पहुंच को ब्लॉक करें, लेकिन PHP स्क्रिप्ट का उपयोग करें सफल लॉगिन के बाद स्प्रिंग सिक्योरिटी पिछली पृष्ठ पर पहुंचती है प्रारूप मानक json मॉड्यूल के साथ फ़्लोट करता है बहुत कम आकार के बाद छवि की गुणवत्ता – जावा java.lang.NoClassDefFound त्रुटि: संगठन / अपाचे / जुली / लॉगिंग / लॉगफैटरी