摘要：Oracle RAC 添加節點操作，跟安裝類似，配置所需OS參數、IP規劃等，需要在rac層和db層分別添加。
1安裝準備工作
1.1?加節點步驟
加節點不需要停機，在線操作，但需要在業務較低時段進行，若安排重啟測試和業務測試，則視情況申請停機時間。
1????原生產庫兩臺主機安裝新的操作系統，連接現生產庫所用的存儲并進行多路徑的配置
2????配置網絡
3????檢查系統包和配置等價性等一系列加節點操作，具體操作參考章節1.3~1.12
4????在現有生產庫節點1上進行加節點操作。
5????檢查各個節點的crs和instance的狀態。
節點
節點名稱
實例名稱
數據庫名稱
處理器
RAM/SWAP
操作系統
Master-db-03
db3
db
Intel(R) Xeon(R) CPU E7- 4870 ?@ 2.40GHz
256GB/128GB
RedHatEL6.5
Master-db-04
db4
Intel(R) Xeon(R) CPU E7- 4870 ?@ 2.40GHz
256GB/128GB
RedHatEL6.5
網絡配置
節點名稱
公共IP地址
專用IP地址
虛擬IP地址
SCAN名稱
SCAN IP地址
Master-db-03
10.0.3.11
10.0.5.11
10.0.3.111
scan-ip
10.0.3.223
Master-db-04
10.0.3.12
10.0.5.12
10.0.3.112
Oracle軟件組件
軟件組件
操作系統用戶
主組
輔助組
主目錄
Oracle基目錄/Oracle主目錄
Grid Infra
Grid
oinstall
asmadmin、asmdba、asmoper
/home/grid
/opt/oracrs/base
/opt/oracrs/product/11gr2/grid
Oracle RAC
Oracle
oinstall
dba、oper、asmdba
/home/oracle
/opt/oracle/
/opt/oracle/product/11.2.0/db
存儲組件
存儲組件
類型
卷大小
ASM卷組名
ASM冗余
設備名
OCR/VF
ASM
10G
DG_OCR
NORMAL
按新的標準
數據
ASM
2000G
DG_ACC
External
按新的標準
數據
ASM
2000G
DG_INDX
External
按新的標準
數據
ASM
2000G
DG_OPT
External
按新的標準
ASM
200G
DG_ORA
External
按新的標準
歸檔日志
ASM
200G
DG_ARCH
External
按新的標準
1.1?檢查系統要求
E.補丁包
rpm -q binutils \
compat-libstdc++-33 \
elfutils-libelf \
elfutils-libelf-devel \
gcc \
gcc-c++ \
glibc \
glibc-common \
glibc-devel \
glibc-headers \
ksh \
pdksh \
libaio \
libaio-devel \
libgcc \
libstdc++ \
libstdc++-devel \
libXp \
make \
numactl-devel \
sysstat \
unixODBC \
unixODBC-devel \
compat-libcap1.x86_64 \
libcap.x86_64|grep not
F．核心參數
編輯/etc/sysctl.conf文件，添加下面的內容
# for oracle
fs.aio-max-nr=1048576
fs.file-max=6815744
kernel.sem=250 32000 100 128
kernel.shmmni=4096
kernel.shmall=8388608
kernel.shmmax=32212254720
net.ipv4.ip_local_port_range=900065000
net.core.rmem_default=1048576
net.core.rmem_max=1048576ànet.core.rmem_max = 4194304(11.2.0.3)
net.core.wmem_default=262144
net.core.wmem_max=1048586
然后執行以下命令使參數生效：
sysctl –p
1.1?設置/etc/hosts
私有IP地址必需與公網分離,兩個節點可互相訪問可以ping通,必須在/etc/hosts里有；
虛擬IP地址同公網IP地址是一個網段的，如果有DNS就注冊在DNS中，如果沒有DNS就寫在/etc/hosts文件里；
公網IP地址，是主機真正的IP地址，主機管理員預先分配，如果有DNS就注冊在DNS中，如果沒有DNS就寫在/etc/hosts文件里），并且保證寫入每個客戶系統中的hosts文件。
在各個節點的網卡配置必須相同，例如：第一個節點公共IP是用eth0，那么其他節點也得用eth0
# Do not remove the following line, or various programs
# that require network functionality will fail.
127.0.0.1 ??????????????localhost.localdomain localhost
::1 ????????????localhost6.localdomain6 localhost6
# that require network functionality will fail.
127.0.0.1 localhost
10.0.3.22 MASTER-DB-02
10.0.3.21 MASTER-DB-01
10.0.3.12 MASTER-DB-04
10.0.3.11 MASTER-DB-03
#heart ip
10.0.5.22 ?db2-heart
10.0.5.21 ?db1-heart
10.0.5.12 ?db4-heart
10.0.5.11 ?db3-heart
#vip
10.0.3.122 ?db2-vip
10.0.3.121 ?db1-vip
10.0.3.112 ?db4-vip
10.0.3.111 ?db3-vip
#scan ip
10.0.3.123 scan-ip
設置完/etc/hosts后，建議在各自節點通過名字PING對方，看能否PING通。
建立oracle、grid用戶和dba組
#/usr/sbin/groupadd -g 501 oinstall
#/usr/sbin/groupadd -g 502 dba
#/usr/sbin/groupadd -g 503 oper
/#usr/sbin/groupadd -g 504 asmadmin
#/usr/sbin/groupadd -g 505 asmoper
#/usr/sbin/groupadd -g 506 asmdba
#/usr/sbin/useradd -g oinstall -G dba,asmdba,oper oracle
/#usr/sbin/useradd -g oinstall -G asmadmin,asmdba,asmoper,oper,dba grid
1.1?配置等效性
注意：需要在GRID和ORACLE用戶下分別執行
# su - oracle
$ mkdir ~/.ssh
$ chmod 700 ~/.ssh
--產生rsa,dsa
$ ssh-keygen -t rsa
注意：以上操作分別在兩臺機器上執行
--在節點1上執行：
$ sshmaster-db-04cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
$ sshmaster-db-03cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
$ scp ~/.ssh/authorized_keysmaster-db-02:~/.ssh/.
$?scp ~/.ssh/authorized_keysmaster-db-03:~/.ssh/.
$ scp ~/.ssh/authorized_keysmaster-db-04:~/.ssh/.
--測試SSH在兩邊都不用輸入密碼,表示SSH配置完成
$ sshmaster-db-01date
$ sshmaster-db-02date
$ sshmaster-db-03date
$ sshmaster-db-04date
1.1?設置系統限制
--在每個節點上執行相同的操作
編輯/etc/security/limits.conf,添加如下內容：
oralce ???soft ?nofile 131072
oracle ??hard ?nofile 131072
grid ???soft ?nofile 131072
grid ???hard ?nofile 131072
oracle hard memlock 153092096
oracle soft memlock 153092096
編輯/etc/pam.d/login,添加如下內容：
session required /lib/security/pam_limits.so
1.2?建立GRID及RAC安裝目錄
--建立ORACLE_HOME目錄
mkdir -p /opt/oracle/product/11.2.0/db
--建立ORACLE_GRID_HOME目錄
mkdir -p /opt/oracrs/base
mkdir -p /opt/oracrs/product/11gr2/grid
--授權
chown ?-R oracle:oinstall/opt/oracle
chown–R grid:oinstall /opt/oracrs
chmod -R 775 /opt
1.3?關閉防火墻
chkconfig --list iptables
chkconfig iptables off
chkconfig --list iptables
service iptables stop
1.4?設置NTP服務
配置NTP服務
1.5?設置用戶的環境變量
#gird用戶
修改~/.bash_profile文件，增加以下內容：
umask 022
export ORACLE_BASE=/opt/grid
export ORACLE_HOME=/opt/crs_home/product/11.2.0/grid
export ORACLE_SID=+ASM1
export PATH=/usr/sbin:$PATH
exportPATH=$ORACLE_HOME/bin:$PATH
為了讓以上內容立即生效，執行以下命令即可：
$Source .bash_profile
#oracle用戶
修改~/.bash_profile文件，增加以下內容：
umask 022
export ORACLE_BASE=/opt/oracle
export ORACLE_HOME=$ORACLE_BASE/product/11.2.0/dbhome_1
export ORA_GRID_HOME=/opt/crs_home/product/11.2.0/grid
export ORACLE_SID=db3
export PATH=/usr/sbin:$PATH
exportPATH=$ORACLE_HOME/bin:$PATH?:$ORA_GRID_HOME/bin
為了讓以上內容立即生效，執行以下命令即可：
$Source .bash_profile
1.6?配置磁盤設備
使用UDEV綁定磁盤設備，參考現生產庫磁盤設備配置。
1.7?使用CVU檢查新加節點的硬件和OS環境
$ cluvfy stage -post hwos -ndb-maser-3,master-db-04–verbose
$ cluvfy comp peer -refnodedb-maser-1 -ndb-maser-3,master-db-04-orainv oinstall -osdba oinstall-verbose
$ cluvfy stage -pre nodeadd -ndb-maser-3,master-db-04–verbose
注意：服務器上的防火墻一定要關閉，否則不能通過檢查。雖然chkconfig iptables off檢查都是off，但是沒有執行service iptables stop操作。如：當時有如下報錯。
正在檢查子網"10.0.3.0"是否能夠與多點傳送組"230.0.1.0"進行多點傳送通信...
PRVG-11134 :節點"master-db-04"上的接口"10.0.3.12"無法與節點"master-db-04"上的接口"10.0.3.12"通信
PRVG-11134 :節點"master-db-04"上的接口"10.0.3.12"無法與節點"master-db-03"上的接口"10.0.3.11"通信
PRVG-11134 :節點"master-db-03"上的接口"10.0.3.11"無法與節點"master-db-04"上的接口"10.0.3.12"通信
1.8?備份OCR
在添加節點前，建議手動備份OCR（GRID每4個小時也會自動備份OCR），目的是如果出
現某些問題，我們可以恢復到添加節點前的狀態：
$su - root
$GRID_HOME/bin/ocrdump /tmp/ocrdump_1nodes.bak
2?添加節點
2.1?在GRID (GI)層面添加節點
將GRID HOME復制/擴展到節點3,4，在節點1以grid用戶執行下面的命令：
注意：addNode.sh腳本首先進行安裝前檢查，如果檢查過程有錯誤或者警告，需要在運行
addNode.sh前設置環境變量exportIGNORE_PREADDNODE_CHECKS=Y，否則addNode.sh會失敗退出
#su–grid
$cd $GRID_HOME/oui/bin
$./addnode.sh“CLUSTER_NEW_NODES={master-db-03,master-db-04}”“CLUSTER_NEW_VIRTUAL_HOSTNAMES={db3-vip,db4-vip}”
以root用戶在節點3和4運行orainstRoot.sh來注冊Inventory
在2.3章節再執行root.sh
2.2?在RAC層面添加節點
將RDBMS ORACLE HOME復制/擴展到節點3,在節點1以oracle用戶執行下面的命令：
./addNode.sh“CLUSTER_NEW_NODES={ master-db-03,master-db-04}”
在節點3,4以root用戶運行$RDBMS_OARCLE_HOME/root.sh
2.3?運行GRID_HOME/root.sh
在節點3,4以root用戶運行$GRID_HOME/root.sh
運行root.sh后，節點rac3的資源已經更新到集群中(OCR)，并且已經啟動：
$crsctl stat res–t
2.4?添加實例
運行dbca
