Para instalar o softaculous entre no ssh do seu servidor e digite os comandos abaixo:
# cd /usr/local/cpanel/whostmgr/docroot/cgi
# wget -N http://www.softaculous.com/ins/addon_softaculous.php
# chmod 755 addon_softaculous.php
Após digitar estes comandos entre no WHM como root e clique no menu Plugins que irá aparecer o plugin do softaculous instalado.