skip to main | skip to sidebar

NZMATH Development Log

NZMATH 開発に関連した日誌 / Log related to NZMATH development

2006年10月24日火曜日

computation of dmath.log(13)

I found a strange behavior of dmath.log.
If I set the precision to 12 (decimal.getcontext().prec=12),
dmath.log(13) returns Decimal("2.56494935746").
But, if I set the precision to 20, dmath.log(13) never halts.

Is it a bug of dmath.log, or of decimal module of Python?
投稿者 MATSUI Tetsushi 時刻: 21:01 0 コメント
ラベル: en, python, sourceforge
新しい投稿 前の投稿 ホーム
登録: 投稿 (Atom)

ブログのアーカイブ / Blog archive

  • ►  2012 (3)
    • ►  12月 (1)
    • ►  6月 (1)
    • ►  5月 (1)
  • ►  2011 (1)
    • ►  12月 (1)
  • ►  2010 (4)
    • ►  6月 (1)
    • ►  5月 (1)
    • ►  4月 (2)
  • ►  2009 (4)
    • ►  9月 (1)
    • ►  6月 (1)
    • ►  3月 (2)
  • ►  2008 (7)
    • ►  12月 (1)
    • ►  5月 (1)
    • ►  4月 (1)
    • ►  3月 (4)
  • ►  2007 (9)
    • ►  12月 (1)
    • ►  10月 (1)
    • ►  9月 (1)
    • ►  5月 (1)
    • ►  4月 (1)
    • ►  3月 (3)
    • ►  2月 (1)
  • ▼  2006 (15)
    • ►  11月 (1)
    • ▼  10月 (1)
      • computation of dmath.log(13)
    • ►  9月 (1)
    • ►  8月 (3)
    • ►  5月 (1)
    • ►  4月 (1)
    • ►  3月 (4)
    • ►  2月 (2)
    • ►  1月 (1)
  • ►  2005 (11)
    • ►  11月 (1)
    • ►  10月 (2)
    • ►  9月 (1)
    • ►  7月 (1)
    • ►  6月 (1)
    • ►  4月 (1)
    • ►  3月 (4)
  • ►  2004 (6)
    • ►  12月 (5)
    • ►  11月 (1)

リンク / Links

  • Home
  • nzmath@SourceForge

自己紹介 / Self introduction

  • MATSUI Tetsushi
  • salt3des
Powered By Blogger