代码之家 › 专栏 › 技术社区 › rein

小数乘法奇异性

nsdecimalnumber cocoa-touch objective-c

rein · 技术社区 · 16 年前

NSDecimalNumber *price = [exclusivePrice decimalNumberByMultiplyingBy:quantity];
NSLog(@"%@ * %@ = %@", exclusivePrice, quantity, price);

2010-04-05 00:22:29.111 TestApp[13269:207] 65 * 2 = -0.0000000000000000000000000000000000000000000000000000000000000000000000000000000000000000000007169919476068871316457914368

我所期望的:

2010-04-05 00:22:29.111 TestApp[13269:207] 65 * 2 = 130

有人能解释一下吗?

编辑:

NSNumberFormatter *formatter = [[NSNumberFormatter alloc] init];
[formatter setNumberStyle:NSNumberFormatterDecimalStyle];
NSDecimalNumber *n2 = (NSDecimalNumber *)[formatter numberFromString:@"2"];
NSDecimalNumber *n1 = (NSDecimalNumber *)[NSDecimalNumber numberWithInt:65];
NSDecimalNumber *n3 = [n1 decimalNumberByMultiplyingBy:n2];
NSLog(@"%@ * %@ = %@", n1, n2, n3);

2 回复 | 直到 10 年前

stefanB 16 年前

似乎对我有用。

NSDecimalNumber * n1 = [NSDecimalNumber decimalNumberWithString:@"65"];
NSDecimalNumber * n2 = [NSDecimalNumber decimalNumberWithString:@"2"];

NSDecimalNumber * res = [n1 decimalNumberByMultiplyingBy:n2];

NSLog(@"%@ * %@ = %@", n1, n2, res);

2010-04-05 08:40:42.812 x[24301] 65 * 2 = 130

Community Mohan Dere 9 年前

我找到了答案:根据 How to use NSDecimalNumber? 我不容易在NSNumber和NSDecimalNumber之间转换。要从一个转换到另一个,我必须:

NSDecimalNumber *n2 = [NSDecimalNumber decimalNumberWithDecimal:
                              [[formatter numberFromString:@"2"] decimalValue]];

推荐文章

George Kim · 如何在iOS中模拟特定坐标空间中的触摸?

2 年前

BENG · 协调C++和Objective-C中结构的填充

2 年前

Guard P · 归档项目时的Cocoapods(AFNetworking)问题

2 年前

Blaire Crits-Christoph · 如何在iOS中使用NSISO8601DateFormatter从字符串中解析日期?

2 年前

Community wiki · iPhone上ivar的继承问题

2 年前

Community wiki · 在OpenGL中显示YUV

2 年前

YosiFZ · pod更新依赖关系pod

2 年前

bruno vignesh · 在Objective-C中定义completionHandler的类型

2 年前

Community wiki · 查找iOS日历

2 年前

Community wiki · 琐碎PDFKit程序中怪异的EXC_BAD_ACCESS

2 年前