Onlangs heeft het team van professor Zhang Yue van de West Lake University een AI-wetenschappersysteem ontwikkeld - DeepScientist, dat de aandacht van veel internetgebruikers trok. Volgens rapporten isDeepScientist is het eerste AI-wetenschappersysteem met volledige wetenschappelijke onderzoeksmogelijkheden dat doelgerichte, continue iteratie demonstreert en geleidelijk de meest geavanceerde onderzoeksresultaten van menselijke onderzoekers overtreft zonder menselijke tussenkomst.
Veel internetgebruikers zijn echter bezorgd dat een AI-systeem dat geen menselijke tussenkomst vereist, het risico loopt dat de onderzoeksrichting uit de hand loopt of wordt misleid.
In dit verband zei Zhang Yue: "AI-beveiligingskwesties zijn altijd een kwestie geweest waar we veel belang aan hechten, dus DeepScientist heeft het openbaar gemaakt en we hebben ook een voorzichtige strategie aangenomen."
Volgens hem moeten onderzoek naar AI zelf en AI-veiligheidsonderzoek hand in hand gaan, en Zhang Yue is ervan overtuigd dat AI beheersbaar is.
Hij zei ook: “Als AI-taalmodelgeleerde hebben we een relatief goed inzicht in het werkingsmechanisme van taalmodellen, dus ik heb een relatief positieve houding ten opzichte van de beheersbaarheid van AI.Ik moedig studenten ook sterk aan om AI-tools zo vroeg mogelijk en vaker te gebruiken. Mensen moeten in de toekomst immers samenwerken met AI. "
