ага, уже разобрался, выбирает только не по количеству оценок а по сумме всех оценок
поправил данную выборку, чтобы рейтинг был по средней оценке, а если одинаковая оценка, то выше позиция, где больше голосов, так по моему будет логичнее
case 'rating':
$database->setQuery("select *, "
. " imgvotes/imgvotesum "
. " as rating from #__datsogallery "
. " as a, #__datsogallery_catg "
. " as ca where a.catid=ca.cid "
. " and a.imgvotes>0 "
. " and a.published=1 "
. " and a.approved=1 "
. " and ca.published=1 "
. " and ca.access<=$gid "
. " order by rating,imgvotes desc limit $ad_toplist");
