計算機システムの使い方/Smith のバックアップ(No.9) - 第一原理分子動力学プログラム STATE Senri Wiki

smith 計算機システムの使い方 †

SMITHクラスタ計算機システムはインテルまたは互換CPUを用いた計算機システムです。

ネットワーク構成 †

-- | 等はネットワークの接続を、~[]でくくられた名前はコンピュータの名称をそれぞれ表す。

+ 工学部内 ODINS network
|
|           Backbone network( 工学部ネットワークから直接アクセスできない )
|               |
+- [smith] -----+                          133.1.116.161 ログインサーバー
|               |
+- [rafiki] ----+                          133.1.116.162 アプリケーションサーバー
|               |
+- [pr6pc63]    |                          133.1.116.163 WEBサーバー
                |
                +-- [ita*]                 Itanium CPUシステム(撤去)
                |
                +-- [opt00], [opt01]       コンパイルサーバー
                |
                +-- [opt02]-[opt11]        計算サーバー グループ1 (各2CORE 2CPU) mpich-opt
                |
                +-- [opt12]-[opt21]        計算サーバー グループ2 (各4CORE 2CPU) mpich-opt2
                |
                +-- [opt22]-[opt36]        計算サーバー グループ3 (各4CORE 2CPU) mpich-opt3
                |
                +-- [xe00], [xe01]         計算サーバー グループ4 （xe00はコンパイルサーバー兼用）(各8CORE 2CPU) x8
                |
                +-- [xe02]-[xe06]          計算サーバー グループ5 (各12CORE 2CPU) x12
                |
                +-- [xeon00] ----+         ログイン・計算サーバー (8CORE 2CPU)
                                 |
                                 +--- [xeon01-07] 計算サーバー グループ6 (各8CORE 2CPU)

↑

ジョブの投入について †

システムで計算を実行するには、計算したい内容をジョブにしてジョブキューイングシステムに投入する必要があります。
ジョブ管理システムはSGE(Sun Grid Engine)5.3です。
ジョブは自動的に空いている計算機に割り当てられて実行されます。
ジョブの作り方は下記各システムの説明に「ジョブスクリプトファイルの例」がありますので参考にしてください。
用いるコアの数を増やすと自動的に並列度が上がりますが、通信はギガビットイーサネットで実装されていますので、あまり速くありません。ノード間通信を含む並列計算はあまり有効ではありませんのでご注意ください。
opt parallel_environmentにジョブを投入するときは、smithかopt??でqsubコマンドを実行してください。
xe parallel_environmentにジョブを投入するときは、xe00でqsubコマンドを実行してください。
xeon parallel_environmentにジョブを投入するときは、xeon00でqsubコマンドを実行してください。

↑

キューとparallel_environmentについて †

各計算ノードはそれぞれ別々のキューとして管理されています。
違う規模の計算機は別々の parallel_environmentとして管理しています。(mpich-opt, mpich-opt2, mpich-opt3, x8, x12)
通常、キューを指定せず、-peオプションで parallel_environmentを指定してください。
parallel_environmentを指定すると、ジョブはその parallel_environmentに属するノードでのみ割り当てられます。
投入したジョブのparallel_environmentに属するノードに空きが足りない場合は、他のparallel_environmentに空きがあっても実行されず、その parallel_environmentの他のジョブの終了を待つことになります。

↑

各システム †

↑

opt??システム †

opteron CPUで構成される計算機グループで、mpich-opt, mpich-opt2, mpich-opt3 の3 parallel_environmentからなります。

ジョブスクリプトファイルの例
```
 #!/bin/csh
 #$ -cwd
 #$ -pe mpich-opt2 4
 #$ -N JOBNAME
 mpirun -nolocal -np $NSLOTS -machinefile ../$USER.$PE.$JOB_ID ./STATE_A < nfinp > nfout
 
```
- -cwd はジョブを投入した時のディレクトリがジョブ開始時のディレクトリになることを指示するオプションです。
- 上のmpich-opt2の後ろの4が計算に用いるCOREの数を示すオプションです。
- -Nオプションでジョブの名前を指定できます。（先頭文字は英字です。）
- STATE_AにはSTATEの実行ファイルをジョブ投入前にリンクしておいてください。
- また、fort.37等、擬ポテンシャルのファイルも同様にリンクしておいてください。
コンパイル
- コンパイルはopt00にログインしてifortコマンドにより行います。
- STATEユーザーはopt用のMakefileを使用してコンパイルできます。
opt??にログインするには？
- rsh opt00 等でOKです。
ライブラリ
- ACML,mpich-2 が利用できます。

↑

x?システム †

xeon CPUで構成される計算機グループで、x8, x12 の2 parallel_environmentからなります。

ジョブスクリプトファイルの例
```
 #!/bin/csh
 #$ -cwd
 #$ -pe x12 12
 #$ -N JOBNAME
 mpirun  -np $NSLOTS ./STATE_A < nfinp > nfout
```
- -cwd はジョブを投入した時のディレクトリがジョブ開始時のディレクトリになることを指示するオプションです。
- 上のx12（またはx8）はx12（またはx8）にジョブ投入することを示し、後ろの12が計算に用いるCOREの数を示すオプションです。x12は12、x8は8でないと実行されないようになっていますので注意してください。
- -Nオプションでジョブの名前を指定できます。（先頭文字は英字です。）
- STATE_AにはSTATEの実行ファイルをジョブ投入前にリンクしておいてください。
- また、fort.37等、擬ポテンシャルのファイルも同様にリンクしておいてください。

コンパイル
- コンパイルはxe00にログインしてifortコマンドまたはmpi並列の場合はmpif90コマンドにより行います。
- STATEユーザーはxe用のMakefileを使用してコンパイルできます。
xe??にログインするには？
- rsh xe00 等でOKです。
ライブラリ
- MKL が利用できます。

ifort xe2011（version12）のインストール記LinuxTipsも参照。

↑

xeon00システム †

xeon CPUで構成される計算機グループですが、特定のプロジェクト用のため一般利用はできません。

ジョブスクリプトファイルの例

 #!/bin/csh
 #$ -cwd
 #$ -pe x8 8
 #$ -N JOBNAME
 mpirun  -np $NSLOTS ./STATE_A < nfinp > nfout

↑

SXで実行させた結果（バイナリデータ）を読み込みたい。 †

可能です。 zaj.data, potention.data, restart.dataについて下記のようにして、読み込み時のエンディアンを変更します。出力もSX互換のままになりますので、さらに継続して使うときは注意してください。
```
setenv F_UFMTENDIAN 43,70,80 (cshの場合)
export F_UFMTENDIAN=43,70,80 (bashの場合)
F_UFMTENDIAN=43,70,80 ; export F_UFMTENDIAN (shの場合)
```