SMITHクラスタ計算機システムはインテルまたは互換CPUを用いた計算機システムです。
-- | 等はネットワークの接続を、~[]でくくられた名前はコンピュータの名称をそれぞれ表す。
+ 工学部内 ODINS network | | Backbone network( 工学部ネットワークから直接アクセスできない ) | | +- [smith] -----+ 133.1.116.161 ログイン&アプリケーションサーバー | | +- [rafiki] ----+ 133.1.116.162 ログインサーバーバックアップ | | | +-- [opt00], [opt01] コンパイルサーバー(opt01 停止中) | | | +-- [opt12]-[opt21] 計算サーバー グループ2 (各4CORE 2CPU) 並列環境=mpich-opt2 (停止中) [廃止] | +-- [opt22]-[opt36] 計算サーバー グループ3 (各4CORE 2CPU) 並列環境=mpich-opt3(停止中) [廃止] | | | +-- [xe00], [xe01] 計算サーバー グループ4 (各8CORE 2CPU) 並列環境=x8 | +-- [xe02]-[xe06] 計算サーバー グループ5 (各12CORE 2CPU) 並列環境=x12 | | | +-- [xs01]-[xs18] 計算サーバー グループ8 (各16CORE 2CPU) 並列環境=x16 | | | +-- [xi01]-[xi12] 計算サーバー グループ9 (各16CORE 2CPU) 並列環境=x16 | | | +-- [xh01]-[xh19] 計算サーバー グループ10 (各16CORE 2CPU) 並列環境=x16 | +-- [xh01]-[xh19] 計算サーバー グループ10 (各24CORE 2CPU) 並列環境=x16 | | | |・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・ | | | +-- [xeon00] ----+ ログイン・計算サーバー (8CORE 2CPU) [廃止] | | | | | +--- [xeon01-07] 計算サーバー グループ6 (各8CORE 2CPU) [廃止] | | | |・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・・ | | +- [sb100] -----+ 133.1.116.165 新計算サーバー | +-- [sb101]-[sb120] 計算サーバー グループ7 (各6CORE 1CPU) 並列環境=x20 | +-- [corei7-3930k-1] 計算サーバー テスト用 (6CORE 1CPU)
qsub -q opt1.q -pe mpich-opt2 4 run.csh
プロセッサの種類 ノード内 ジョブ投入 キュー 並列環境 コア数/CPU数 サーバー ・グループ2 opteron 4/2 smith opt1.q mpich-opt2 ・グループ3 opteron 4/2 smith opt2.q mpich-opt3 ・グループ4 xeon 8/2 smith xe1.q x8 ・グループ5 xeon 12/2 smith xe2.q x12 ・グループ6 xeon 8/2 xeon00 all.q x8 ・グループ7 core i7 sandy-bridge 6/1 sb100 all.q x6 ・グループ8 xeon sandy-bridge 16/2 smith xs1.q x16 ・グループ9 xeon sandy-bridge(ivy?) 16/2 smith xi1.q x16
#!/bin/csh #$ -cwd #$ -pe mpich-opt2 4 #$ -N JOBNAME mpirun -nolocal -np $NSLOTS -machinefile ../$USER.$PE.$JOB_ID ./STATE_A < nfinp > nfout
#!/bin/csh #$ -cwd #$ -pe x12 12 #$ -N JOBNAME mpirun -np $NSLOTS ./STATE_A < nfinp > nfout
ifort xe2011(version12) のインストール記LinuxTipsも参照。
#!/bin/csh #$ -cwd #$ -pe x8 8 #$ -N JOBNAME mpirun -np $NSLOTS ./STATE_A < nfinp > nfout
#!/bin/csh -f #$ -pe x6 12 #$ -cwd #$ -N JOBNAME setenv OMP_NUM_THREADS 6 ln -fs ~/STATE/src/STATE_5.4.1/wrksrc6i5_/STATE . mpirun -perhost 1 -np $NHOSTS ./STATE < nfinp > nfout
#!/bin/csh -f #$ -pe x6 12 #$ -cwd #$ -N JOBNAME ln -fs ~/STATE/src/STATE_5.4.1/STATE . mpirun -np $NSLOTS ./STATE < nfinp > nfout
#!/bin/csh -f #$ -pe x16 32 #$ -cwd #$ -N JOBNAME setenv OMP_NUM_THREADS 4 # OPENMP並列数 setenv I_MPI_ADJUST_ALLGATHERV 2 # MPI集団通信ALLGATHERVのアルゴリズム setenv I_MPI_PIN 1 # ln -fs ~/STATE/src/STATE_5.4.1/STATE . mpirun -perhost 4 -np 8 ./STATE < nfinp > nfout
#!/bin/csh -f #$ -pe x16 32 #$ -cwd #$ -N JOBNAME setenv OMP_NUM_THREADS 1 # OPENMP並列数 setenv I_MPI_ADJUST_ALLGATHERV 2 # MPI集団通信ALLGATHERVのアルゴリズム setenv I_MPI_PIN 1 # ln -fs ~/STATE/src/STATE_5.4.1/STATE . mpirun -np $NSLOTS ./STATE < nfinp > nfout
################### FOR PC clusterC (Xeon) with mpiifort ##################### F90 = mpiifort LINKER = mpiifort OMP = OPT1 = -O1 OPT3 = -O3 # Xeon with SSE4 FLAG = $(OMP) $(OPT1) -fixed -extend_source -axAVX,SSE4.2 -mcmodel=large -g -traceback FLAGS = $(OMP) $(OPT3) -fixed -extend_source -axAVX,SSE4.2 -mcmodel=large -g -traceback FLAGD = $(OMP) $(OPT3) -fixed -extend_source -axAVX,SSE4.2 -mcmodel=large -g -traceback FLAGNP = $(OPT3) -fixed -extend_source -axAVX,SSE4.2 -mcmodel=large -g -traceback DEBUG = LIBS = -mkl=sequential LAPACK = INCLUDE = -I$(MKLROOT)/include/fftw -I/opt/intel/impi/3.2.1.009/include64/ CPPDIR = /usr/bin CPP = $(CPPDIR)/cpp -P -C -traditional P_FLAGS = -D_FFTW3_ -D_MKL_ -D_PC_CLUSTER_ -D_TIMER_ -D_TEST_ -D_PATIENT_ -D_TIMERx_ -D_INTEL_ ################################################################################ # preprocessor switches # _FFTW3_ usage of FFTW3 interface # _FFTW3_MPI usage of FFTW3/MPI # _PAITIENT_ FFTW3 planning parameter. strong optimization of FFT procedure. # _MKL_ disable usage of FFTW wisdom # _INTEL_/_KEI_ select appropriate module for use of 'chdir' # _PC_CLUSTER_ use of algorithms for non-vector machine # _TIMER_ elaps time measurement for important procedures # _TIMERx_ elaps times of program regions in main/scf routines # _TEST_ affect # of revision of eigen-vector & other parts (Haraguchi-san's) # _OPENMP_FUNC__OPENMP_FUNC_ activate openMP control functions # _SCALAPACK_ use of saclapack routines ################################################################################
setenv F_UFMTENDIAN 43,70,80 (cshの場合) export F_UFMTENDIAN=43,70,80 (bashの場合) F_UFMTENDIAN=43,70,80 ; export F_UFMTENDIAN (shの場合)
以下、古い情報です。
SMITHクラスタ計算機システムはインテルまたは互換CPUを用いた計算機システムです。
-- | 等はネットワークの接続を、~[]でくくられた名前はコンピュータの名称をそれぞれ表す。
+ 工学部内 ODINS network | | Backbone network( 工学部ネットワークから直接アクセスできない ) | | +- [smith] -----+ 133.1.116.161 ログインサーバー | | +- [rafiki] ----+ 133.1.116.162 アプリケーションサーバー | | | | (133.1.116.163 WEBサーバー休止中) | | | +-- [ita*] Itanium CPUシステム(撤去) | | | +-- [opt00], [opt01] コンパイルサーバー(opt01 停止中) | | | +-- [opt02]-[opt11] 計算サーバー グループ1 (各2CORE 2CPU) mpich-opt (opt02-opt11 停止中) | | | +-- [opt12]-[opt21] 計算サーバー グループ2 (各4CORE 2CPU) mpich-opt2 (opt17 停止中) | | | +-- [opt22]-[opt36] 計算サーバー グループ3 (各4CORE 2CPU) mpich-opt3 | | | +-- [xe00], [xe01] 計算サーバー グループ4 (xe00はコンパイルサーバー兼用)(各8CORE 2CPU) x8 | | | +-- [xe02]-[xe06] 計算サーバー グループ5 (各12CORE 2CPU) x12 | | | +-- [xeon00] ----+ ログイン・計算サーバー (8CORE 2CPU) | | | | | +--- [xeon01-07] 計算サーバー グループ6 (各8CORE 2CPU) | | +- [sb100] -----+ 133.1.116.165 新計算サーバー | +-- [sb101]-[sb120] 計算サーバー グループ7 (各6CORE 1CPU) x20 | [Sandy-bridge Corei7-3960k] +-- [corei7-3930k-1] 計算サーバー テスト用 (6CORE 1CPU)
#!/bin/csh #$ -cwd #$ -pe mpich-opt2 4 #$ -N JOBNAME mpirun -nolocal -np $NSLOTS -machinefile ../$USER.$PE.$JOB_ID ./STATE_A < nfinp > nfout
#!/bin/csh #$ -cwd #$ -pe x12 12 #$ -N JOBNAME mpirun -np $NSLOTS ./STATE_A < nfinp > nfout
ifort xe2011(version12) のインストール記LinuxTipsも参照。
#!/bin/csh #$ -cwd #$ -pe x8 8 #$ -N JOBNAME mpirun -np $NSLOTS ./STATE_A < nfinp > nfout
#!/bin/csh -f #$ -pe x6 12 #$ -cwd #$ -N erace setenv OMP_NUM_THREADS 6 ln -fs ~/STATE/src/STATE_5.4.1/wrksrc6i5_/STATE . mpirun -perhost 1 -np $NHOSTS ./STATE < nfinp > nfout
#!/bin/csh -f #$ -pe x6 12 #$ -cwd #$ -N erace ln -fs ~/STATE/src/STATE_5.4.1/STATE . mpirun -np $NSLOTS ./STATE < nfinp > nfout