برچسب: Anthropic
-
رفتارهای شرارتآمیز یک مدل هوش مصنوعی، پژوهشگران شرکت Anthropic را غافلگیر کرد
پژوهشگران شرکت Anthropic زمانی غافلگیر شدند که یکی از مدلهای هوش مصنوعیشان در جریان آزمایشها دچار رفتارهای بهاصطلاح سرکش شد و حتی به یک کاربر توصیه کرد که مایع سفیدکننده بنوشد. آنچه رخ داد، نمونهای از ناهماهنگی هوش مصنوعی محسوب میشود؛ وضعیتی که در آن یک مدل رفتاری از خود بروز میدهد که با ارزشها…