「自作の電卓ゴミで泣く」というコメントと共に投稿された、引き算で“予想外の答え”を出力する電卓アプリが、SNSで話題となっている。
シンプルなデザインの電卓アプリに「0.6-0.2」と入力すると、一般的には簡単に「0.4」だと分かる計算だが、この電卓アプリは「0.39999999999999997」という予想外の小数点以下17桁の数字を表示したのだ。
動画を見た人からは「電卓をソフト自作したら一度は通る道。二進法だと無限少数になることに由来します」「浮動小数点数で演算してるからでは？」など専門的な指摘のコメントが寄せられ、動画は760万件以上再生されている。
投稿者によると、不具合の原因はやはり「浮動小数点数」による演算で生じた計算誤差だったそうだ。早速、この問題点を解決し、現在は正常に動作するようにプログラミングを修正したとのこと。（ABEMA『週刊BUZZ動画』より）
