In der aktuellen Version von ve_guestbook muss der zu erstzende Subpart im Template folgendermaßen aussehen:
Code:
<!-- ###SR_FREECAP_INSERT### this subpart is removed if CAPTCHA is not enabled! -->
<div class="tx-guestbook-field">
<label for="freecap">###SR_FREECAP_NOTICE### <span class="tx-guestbook-form-obligationfield">*</span><br /><span class="freecap-span">###SR_FREECAP_CANT_READ###</span></label>
###SR_FREECAP_IMAGE### <input type="text" class="tx-guestbook-form-inputfield-med" name="tx_veguestbook_pi1[captcha_response]" title="###SR_FREECAP_NOTICE###" value="" id="freecap" />
</div>
<!-- ###SR_FREECAP_INSERT### -->
Darüber hinaus muss es im Plugin selbst "angeschaltet" werden (im Reiter "FORM" ganz oben).
typo3.org: Documentation: Modern Guestbook / Commenting system (EXT: Modern Guestbook)
Wenn das dann immer noch nicht funktioniert, solltest Du überprüfen, ob alle fünf Punkte unter "Image Processing" im Typo3-Install-Tool wie vorgesehen arbeiten. Falls ImageMagick und/oder GD-Libraries nicht vorhanden sind, funktionieren Captchas natürlich auch nicht.