Rukun Yamani adalah sisi ka'bah yang sejajar dengan Hajar Aswad, tepatnya di sudut barat daya yang kiswahnya terbuka. Disebut Rukun Yamani karena sudut Ka'bah yang bagian barat daya kalau ditarik garis lurus ke selatan persis sejajar dengan Negara Yaman.

i Rukun Yamani (sudut yang berdampingan dengan Hajar Aswad) isyarah (tangan diarahkan) dengan tangan kanan tanpa mencium tangan sesudahnya.
Antara Rukun Yamani dengan Hajar Aswad bacalah doa:

Allâhumma rabbanâ âtinâ fiddunyâ hasanah wa fil âkhirati hasanah wa qinâ adzabannâr
“Ya Tuhan, berilah kami kebaikan di dunia dan akhirat, dan selamatkan kami dari api neraka.”