博文
fortran real类型 除法陷阱
||
最近一周，使用gfortran处理相变问题，所有的逻辑都是正确的，可是结果却出人意料。经过几天的排查，发现python和matlab不会出现这个问题，于是就把问题定位到fortran 浮点类型精度的问题。
在使用real类型时，注意：
大数+小数的问题，比如 0.1+1000000000=？？？
0.0/小数= 0？
最后采取规避措施，把问题解决。
欢迎指正。
https://wap.sciencenet.cn/blog-306573-1149844.html
下一篇：How to get the high-k (K, M) point in honeycomb lattice
扫一扫，分享此博文