如何解释数据库中数字的精度和小数位数?

数字精度是指数字中存在的最大位数。

IE 1234567.89的精度为9

数字刻度是指小数点后的最大位数。

IE 123456.789的比例为3

因此,十进制(5,2)的最大允许值为999.99。

数字的精度是数字的位数。

小数位数是小数点后的位数。

在字段定义上设置精度和比例时通常意味着它们表示 最大限度 价值观。

例如,十进制字段定义为 precision=5 和 scale=2 允许以下值:

• 123.45 (P=5,S=2)
• 12.34 (P=4,S=2)
• 12345 (P=5,S=0)
• 123.4 (P=4,S=1)
• 0 (P=0,S=0)

不允许使用以下值,否则将导致数据丢失:

• 12.345 (p=5,s=3)=>可以截断为 12.35 (P=4,S=2)
• 1234.56 (p=6,s=2)=>可以截断为 1234.6 (P=5,S=1)
• 123.456 (p=6,s=3)=>可以截断为 123.46 (P=5,S=2)
• 123450 (P=6,S=0)=>超出范围

请注意,范围通常由精度定义: |value| < 10^p …

Precision, Scale, and Length 在SQL Server 2000文档中:

精度是数字中的位数。小数位数是数字中小数点右边的位数。例如,123.45的精度为5,比例为2。