Berarti tidak ada yang salah dengan php. Bisa jadi website anda sendiri berisi sesuatu yang menyebabkan error 403. Misalnya .htacees file yang berisi sesuatu yang tidak pas atau website menghendaki sesuatu (php modules misalnya) yang tidak ada.
Website sudah diinstall sesuatu?.