for pulic for researcher English
news@kek
home news event library kids scientist site map search
>ホーム >ニュース >News@KEK >この記事
last update:09/07/02  

   image 実験データを集めるシステム    2009.7.2
 
        〜 Belle実験データ収集システムの進化 〜
 
 
  世の中の情報通信技術の進歩には目を見張るものがあります。若者の間でポケベルという数字や文字だけを相手に伝える情報端末が流行したのは15年ほど前のことでしたが、今の携帯電話は通話やメールはもちろんのこと、テレビやウェブも見られるし、写真を撮ったり、GPS機能で自分の現在位置を調べることもできます。技術の進歩の勢いにはすごいものがありますね。

小林・益川理論の正しさを実験的に証明したBelle実験では、データを収集するための高性能なデータ処理システムが10年前から稼働しています。一方でKEKB加速器の性能が飛躍的に向上していることから、さらに大量のデータを処理することを目指して最新の情報処理技術を活かした新しいシステムへの進化のための作業が進められています。いつもはあまり注目されることの無い、巨大な実験の舞台裏のシステムについてご紹介しましょう。

縁の下の力持ち

Belle実験では超高強度の加速器KEKBで生成される大量のB中間子の崩壊を解析することで、CP対称性の破れをはじめとする素粒子の世界のいろいろな物理法則を研究し続けています。その研究を押し進めるにはより大量のB中間子が必要になるので、加速器で加速して衝突させる電子と陽電子のビーム強度を年々ものすごい勢いで増加させました。その結果Belle測定器から生じるデータの量も爆発的に増加していきました。しかし測定器を構成するそれぞれの検出器からデータを読み出すためのデータ収集システムは、その増加に刻々と対応しなければなりませんでした。この結果Belle実験のデータ収集システムは改良に次ぐ改良を繰り返すことになりました。

実験初期(1999年):システム統一の工夫

Belle実験のデータ収集システムは、1)検出器からの電気信号をディジタル化する部分(ディジタイザ)、2)たくさんのディジタイザからデータを読み出す部分(読みだしサブシステム)、3)たくさんの検出器からのデータを1つの事象にまとめる部分(イベントビルダー)、4)データに高度なソフトウェア処理を施し、必要のあるデータだけをふるい分けるシステム(オンラインファーム)、そして5)高速でデータを記録するシステム(ストレージ)、からなります。

図1に実験開始当初のデータ収集システムの構成を示します。このシステムの特徴は、1)の部分でシリコン検出器を除く全ての検出器に「Q-to-T変換」と呼ばれる手法を用いていることです。粒子が検出器の中に残した信号は時間(T)や電荷量(Q)などいろいろな単位で測定されますが、それぞれ独立の電気回路で処理するのは煩雑なので、測定の単位を変換して同一のシステムを採用することにしました。この工夫のおかげで、後の高速化のための改良が非常に容易になりました。

しかしこのシステムは、現在では一般的なPCやネットワークなどのIT技術がまだ存在しなかった1990年代に設計されました。そのためイベントビルダーやオンラインファームは専用に特別に設計したり、工業用に使われていた特殊技術を転用したりして開発されました。その結果10年以上の長期に渡る使用には保守などの面において不安がありました。また性能も初期のデータ収集には間に合いましたが、加速器の性能が上がるに連れ、図2に示すように性能が頭打ちになってきました。何らかの対策が必須の状況でした。

パソコン技術を本格導入

2000年代に入ると、パソコンが高性能化し、また、パソコンを本格的な科学技術計算に利用するためのIT技術も急速に一般化してきたので、それまで専用の設計であったイベントビルダーとオンラインファームを、ファストイーサネットで接続された多数のPCサーバーで置き換える改良を2001年の夏に行いました。この改良によってデータ処理の性能が頭打ちになる問題を解消することができ、かつ長期に渡る維持管理が可能になりました。 図3のように、多数のPCサーバーを接続してイベントビルダーとオンラインファームの役を担わせましたが、この方法はBelle実験が独自に開発したものです。PCサーバー間を直接1対1でネットワーク接続するため、ネットワークトラフィックの混雑による性能の低下がありません。その結果、加速器のさらなる性能向上に対しても備える余裕ができました。

測定と測定の間のロスタイムを減らす

2001年のパソコン技術の導入で、データ収集システムの後半部分の性能は向上しましたが、前半で電気信号をデジタルの数値に変換する部分や、巨大な測定器の各部からデータを読み出すサブシステムの部分はまだ手つかずの状態でした。

この時点でのBelle測定器の読み出しサブシステムは、データ収集の頻度が上がると、データ読み出しの時間が次の測定に使えない「デッドタイム」となって、実験の効率が落ちるという欠点がありました。この時期のBelleグループは、アメリカのSLAC研究所で同様の実験を行っているBaBarグループと火花を散らすデータ収集競争を行っていたので、このデッドタイムを減らして実験効率を向上させることが急務でした。

読み出し中のデータを次々と格納して次の回路に手渡すためのパイプライン処理という方式に切り替えることが最良の解決ですが、そのためにはあらたなディジタイザや読みだしサブシステムを改めて開発する必要があり、時間やコストの点からは不可能でした。

そこで読みだしサブシステムを見直しデータの流れを簡素化し制御するCPUを高速化することで、デッドタイムを大きく低減させることに成功しました(図4)。この改良でデッドタイムをそれ以前の半分以下に改善することができました。

また、システム後段に大規模なPCファームを設置し、従来データ収集後時間をかけて行われていた複雑なオフラインデータ処理を実時間で行えるようにしました。この結果、加速器の電子・陽電子衝突の位置情報などを加速器側にフィードバックすることができるようになり、加速器の性能向上の一助となりました。

2005年にはイベントビルディングファームとリコンストラクションファームと呼ばれるシステムの二重化を行い、クラブ空洞の組込みによる加速器の性能向上に備えました。

2007年以降

2003年のデッドタイム低減のあと、KEKB加速器は着々とその強度をあげるとともに、データ収集中にも加速器にビームを入射する連続入射が始まりました。これにより一日に蓄積できるデータ量は大きく増加しました。しかし入射時に検出器に大きなノイズがのるため、その間はデータ収集を禁止する必要が生じました。これにより2-3%程度のデッドタイムが上乗せされ、低減した分が打ち消されてしまいました。そこでさらなるデッドタイムの低減を目指して、最終的にディジタイザのパイプライン化に着手しました。

KEKのエレクトロニクスシステムグループと汎用パイプライン読みだしモジュールCOPPERを共同開発し、従来使用していたディジタイザと完全に互換性を持つディジタイザを製作しました(図5)。先に述べたように、Belle実験のほとんどの検出器読みだしシステムは同じディジタイザを使用しているので、これをCOPPERに入れ替えるだけでパイプライン化することができます。

この手法により、夏と冬の短いシャットダウン期間を利用して検出器ごとにパイプライン化を行うことができ、加速器の運転時間を犠牲にすることなく改良することができます。2007年の正月明けに、まず中央飛跡検出器(CDC)の読みだしシステムのパイプライン化を行い、図6に示すようにデッドタイムが従来の1/10になることを実証しました。その後夏冬の短いシャットダウンタイムの間に、エアロジェルチェレンコフカウンタ(ACC)、トリガーモニターシステム(TRG)、K_L/ミュオン検出器(KLM)の読みだしシステムを順次改良し現在に至っています。汎用パイプライン読みだしモジュールを使用して加速器の運転時間を犠牲にせず段階的にパイプライン化する手法が認められ、Belleデータ収集グループには2007年の小柴賞が授与されました。

さらなる性能向上にむけて

KEKB加速器は、現在の50倍以上の強度で実験を行うことができるSuperKEKB加速器への改良を目指しています。その際、トリガーレートも劇的に増加することが予測され、Belle測定器を増強したBelle IIにおけるデータ収集システムもまた、さらなる高速化が求められます。

COPPERを用いた読みだしシステムのパイプライン化は、実はこの改良を見据えて開発されています。COPPERでは、ディジタイザ部分が自由に交換できるように設計されているため、どのような検出器にも対応することができます。現在Belle II測定器の設計構想が進められており、その読みだしにはすべてCOPPERが用いられる予定です。

改良されるKEKのBファクトリー実験SuperKEKB/Belle IIでの新物理の発見にご期待ください。



※もっと詳しい情報をお知りになりたい方へ

→Belleグループのwebページ
  http://belle.kek.jp/
→KEKBのwebページ
  http://www-acc.kek.jp/KEKB/

→関連記事
  ・02.01.24
    失われた世界を探る
  ・02.01.31
    失われた世界を探るII
  ・03.10.23
    Belle測定器が再稼働 〜生まれ変わった飛跡検出器〜
  ・03.11.20
    クォーク4個の新粒子? 〜Belleグループが発見した中間子〜
  ・04.08.26
    標準理論を越える物理をめざして 〜Belle実験の最新成果〜
  ・05.03.17
    「美しい実験」 〜新Belleと名付けられるまで〜
  ・05.11.24
    衝突型加速器って何だろう 〜ビームとビームの衝突〜
  ・05.12.01
    カニの横歩き 〜KEKBに設置されるクラブ空洞〜
  ・06.08.03
    「見えない」粒子を見つける 〜Belle実験のタウ・ニュートリノ事象〜
  ・07.03.08
    箱の中の玉の色 〜Belle実験で観測された量子もつれ〜
  ・07.08.23
    移り変わる中間子 〜Belleグループが発見したD0中間子の混合〜
  ・07.11.22
    クォーク4個が確実に? 〜新発見の粒子の奇妙さ〜
  ・08.08.07
    エキゾチックな世界 〜Belle実験で見つかった3種類の新粒子〜

 
image
[図1]
Belle実験開始時のデータ収集システムの構成。
拡大図(47KB)
 
 
image
[図2]
実験開始時のデータ収集システムのデッドタイム。横軸はトリガーレート、縦軸がデッドタイムの割合(%)。280Hz以上で性能が頭打ちになってしまう。
拡大図(101KB)
 
 
image
[図3]
スイッチレスイベントビルディングファームの構成図。
拡大図(87KB)
 
 
image
[図4]
読みだしシステムの高速化前後のデッドタイムの変化。横軸はトリガーレート、縦軸はデッドタイムの割合(%)。赤い点、緑の点はそれぞれアップグレード前後デッドタイムの分布を示す。
拡大図(21KB)
 
 
image
[図5]
COPPERを基に製作されたパイプラインディジタイザモジュール。
拡大図(100KB)
 
 
image
[図6]
パイプライン化前後のデータ収集にかかる時間の比較。FASTBUSと書かれているものが従来の時間。COPPERと書かれているものがアップグレード後の時間。
拡大図(44KB)
 
 
 
 
 

copyright(c) 2009, HIGH ENERGY ACCELERATOR RESEARCH ORGANIZATION, KEK
〒305-0801 茨城県つくば市大穂1-1
proffice@kek.jpリンク・著作権お問合せ