כש ChatGPT משקר

[Cloudy]

לפעמים ChatGPT ממציא שטויות.

 

[AK1]

הבעיות הגדולות הם לא שטויות על אודיו, אלא עמדות פרו-פלסטיניות ואנטי ישראליות בעליל. למשל לשאלה "How will the Palestinians respond" התקבלה התשובה:

It's difficult to predict how all Palestinians will respond as their reactions will likely be varied and complex, influenced by their individual circumstances and perspectives.

However, in general, the Palestinians have been seeking an independent and sovereign state of their own, with East Jerusalem as their capital, and the right of return for Palestinian refugees who were displaced during the 1948 Arab-Israeli War and their descendants. They have also called for an end to the Israeli occupation of Palestinian territories and an end to Israeli settlement building in the West Bank.

If there are any significant developments or changes in the situation on the ground, it could trigger different reactions from Palestinians. For example, if there are further Israeli settlement expansions or demolitions of Palestinian homes, it could lead to protests, resistance, and possibly violence. Alternatively, if there are signs of progress towards a peaceful and just resolution of the conflict, it could lead to a more hopeful and constructive response.

Ultimately, the Palestinian response will depend on the specific circumstances and events that unfold, as well as the leadership and direction of Palestinian political and civil society organizations.

ובפעם הקודמת ששאלתי התשובות היו מוטות עוד יותר לכמה הפלסטינאים מסכנים. Bard של גוגל לא עדיף מבחינה זו. בתגובה לאותה שאלה:

The Palestinians are likely to respond to the recent Israeli attacks with a mixture of anger, frustration, and fear. They may protest against the Israeli government, both domestically and internationally. They may also resort to violence, either in the form of individual attacks or through armed groups.

The Palestinian people have been living under Israeli occupation for decades, and they have a deep sense of injustice and anger. They see the Israeli attacks as a continuation of this occupation, and they are likely to respond with a strong sense of defiance.

The Palestinians are also frustrated by the lack of progress in the peace process. They have been negotiating with the Israelis for decades, but they have not been able to achieve their goal of a sovereign Palestinian state. This frustration is likely to contribute to their anger and their willingness to resort to violence.

The Palestinians are also afraid of the Israeli military. They know that the Israelis have a much stronger military, and they are worried about the possibility of a wider conflict. This fear is likely to deter them from taking some actions, but it is also likely to make them more angry and more determined to resist the Israeli occupation.

The way in which the Palestinians respond to the recent Israeli attacks will depend on a number of factors, including the severity of the attacks, the level of international pressure, and the leadership of the Palestinian Authority. However, it is likely that the Palestinians will respond with a mixture of anger, frustration, and fear.

 

[Tuta]

כמו באודיו כך גם בפוליטיקה אתה תמיד חושב שאתה הכי צודק והכי חכם (כן אתה כמובן תכחיש את זה מיד וכמובן שתהיה האחרון להגיב לי ...). בסה"כ מכלי תכנה שמושפע מהשיח שקיים ברשת ובהתחשב בהסברה הנפלאה שיש לנו קיבלנו תגובה סבירה ויחסית מאוזנת. הרצון לראות בכלי ה-AI מעין אורקל מודרני שיודע את התשובות הוא שגוי לחלוטין. אלו כלים שמטרתם העיקרית כיום יצירת תוכן בעל יכולות ENGAGEMENT.

 

[Cloudy]

הבעיה שהעליתי אינה קשורה לדעות ולשטחים אפורים.
במקרה שהצגתי מדובר בשחור-לבן, הומצא פה מוצר לא קיים בעליל שאין אזכור שלו ברשת, לפחות לפי חיפוש מהיר בגוגל.
ChatGPT המציא פה מוצר יש מאין.

 

[AK1]

כמו באודיו כך גם בפוליטיקה אתה תמיד חושב שאתה הכי צודק והכי חכם (כן אתה כמובן תכחיש את זה מיד וכמובן שתהיה האחרון להגיב לי ...)

אני מניח שהתכוונת אלי.

אז ראשית, למרות היומרות שלך, אתה לא יודע מה אני חושב. זה נמצא אצלי בתוך הראש, ואין לך גישה לשם.

דבר שני, כעובדה, אני לא תמיד צודק, וכשאני מבחין שטעיתי, אני הראשון "להודות" בזה, לתקן את הטעון תיקון, ולהתנצל אם יש צורך. זאת בניגוד לכאלה כאן שממשיכים להתווכח עד אין סוף גם אם ברור שעמדתם בעייתית.

דבר שלישי, אני לא הכי חכם, אני יכול לכתוב שטויות כמו כל אחד אחר, ולא עשיתי בדיקת IQ השוואתית מול אף אחד. לכל היותר, גרגר החוכמה היחיד שיש לי שעדיף על חלק מהאחרים כאן הוא שכשאני לא יודע משהו, או שאני סותם, או שאני שואל.

דבר רביעי, בפוליטיקה אין לי מושג ירוק, אני לא עוקב אחרי מה שקורה, אני לא יודע מי לכלך על מי ובאיזו צורה, מי הבטיח הבטחות ולא קיים, מי מסכן את הביטחון הלאומי בהתבטאויות טיפשיות, וכו' וכו' וכו'. רק כשיש סבבי לחימה אני בכלל מסתכל ב-Ynet או Walla. אז אין לי שום יומרה שהיא להיות צודק או חכם בעניין.

אז אני לא מכחיש כאוטומט כאן, אלא מסביר בדיוק למה אני חושב אחרת ממך, ובנושא הזה, אין לך שום דבר לומר מתוך ידע או הבנה. אתה רק חוזר לתבנית הקבועה שלך של לבקר אנשים בלי לתרום כלום לתכנים.

. בסה"כ מכלי תכנה שמושפע מהשיח שקיים ברשת ובהתחשב בהסברה הנפלאה שיש לנו קיבלנו תגובה סבירה ויחסית מאוזנת. הרצון לראות בכלי ה-AI מעין אורקל מודרני שיודע את התשובות הוא שגוי לחלוטין. אלו כלים שמטרתם העיקרית כיום יצירת תוכן בעל יכולות ENGAGEMENT.

אני לא יודע מי מצפה מה מתוכנת AI, לי אין ציפיות בכיווני אורקלים ושאר שטויות. אני רק מתייחס למה שלימדו את התוכנות בהקשר המדובר, ומי שלימד אותן בתחום הזה, האביס אותן בתכנים שמייצגים תפיסת עולם של הפלסטינאים מסכנים בגללנו ואנחנו הרעים, או שזה במקרה כך כיוון שיש יותר ברשת שחושבים כך מאשר להיפך. התוצאה זהה, ומבחינה הסברתית, היא לרעתנו, ולזה התייחסתי.

 

[Tuta]

אני מניח שהתכוונת אלי.

אז ראשית, למרות היומרות שלך, אתה לא יודע מה אני חושב. זה נמצא אצלי בתוך הראש, ואין לך גישה לשם.

דבר שני, כעובדה, אני לא תמיד צודק, וכשאני מבחין שטעיתי, אני הראשון "להודות" בזה, לתקן את הטעון תיקון, ולהתנצל אם יש צורך. זאת בניגוד לכאלה כאן שממשיכים להתווכח עד אין סוף גם אם ברור שעמדתם בעייתית.

דבר שלישי, אני לא הכי חכם, אני יכול לכתוב שטויות כמו כל אחד אחר, ולא עשיתי בדיקת IQ השוואתית מול אף אחד. לכל היותר, גרגר החוכמה היחיד שיש לי שעדיף על חלק מהאחרים כאן הוא שכשאני לא יודע משהו, או שאני סותם, או שאני שואל.

דבר רביעי, בפוליטיקה אין לי מושג ירוק, אני לא עוקב אחרי מה שקורה, אני לא יודע מי לכלך על מי ובאיזו צורה, מי הבטיח הבטחות ולא קיים, מי מסכן את הביטחון הלאומי בהתבטאויות טיפשיות, וכו' וכו' וכו'. רק כשיש סבבי לחימה אני בכלל מסתכל ב-Ynet או Walla. אז אין לי שום יומרה שהיא להיות צודק או חכם בעניין.

אז אני לא מכחיש כאוטומט כאן, אלא מסביר בדיוק למה אני חושב אחרת ממך, ובנושא הזה, אין לך שום דבר לומר מתוך ידע או הבנה. אתה רק חוזר לתבנית הקבועה שלך של לבקר אנשים בלי לתרום כלום לתכנים.



אני לא יודע מי מצפה מה מתוכנת AI, לי אין ציפיות בכיווני אורקלים ושאר שטויות. אני רק מתייחס למה שלימדו את התוכנות בהקשר המדובר, ומי שלימד אותן בתחום הזה, האביס אותן בתכנים שמייצגים תפיסת עולם של הפלסטינאים מסכנים בגללנו ואנחנו הרעים, או שזה במקרה כך כיוון שיש יותר ברשת שחושבים כך מאשר להיפך. התוצאה זהה, ומבחינה הסברתית, היא לרעתנו, ולזה התייחסתי.

מצחיק שאתה אומר שלימדו את התוכנות - אתה לא מבין דבר וחצי דבר איך המערכות הללו עובדות. האמת שאם הייתי רואה רק את החלק הראשון של הפוסט שלך הייתי יכול לחשוב שמישהו ביקש מ-CHATGPT לכתוב תגובה בסגנון הקלצ'ניקוב ...

 

[Cloudy]

לא רציתי שזה יגרר לפוליטיקה אבל אם כבר מדברים על מי ואיך מאמנים את המנוע שמאחורי, אז AK1 לא בדיוק טועה. יש אנשים שמתייגים מידע ואכן יש הטיה אנושית ברמת התיוג מעבר לכמויות החומר הרעיל ששופכים פנימה גם ככה:

Exclusive: The $2 Per Hour Workers Who Made ChatGPT Safer

A TIME investigation reveals the difficult conditions faced by the workers who made ChatGPT possible

time.com

 

[AK1]

מצחיק שאתה אומר שלימדו את התוכנות - אתה לא מבין דבר וחצי דבר איך המערכות הללו עובדות. האמת שאם הייתי רואה רק את החלק הראשון של הפוסט שלך הייתי יכול לחשוב שמישהו ביקש מ-CHATGPT לכתוב תגובה בסגנון הקלצ'ניקוב ...

אין לי שום יומרות שהן להיות מומחה בעניין בכל רמה שהיא.

עם זאת, ככל הידוע לי, יש לתוכנות האלה שלב של pre-training, זה אפילו נקרא Generative Pre-trained Transformer == GPT, כאשר ה-pre-training נעשה על פי large data sets of unlabelled text -- וכאן יש שליטה של בני אדם במה שמאכילים אותו, ויש גם supervision אנושי בשלבי ה-training, לפחות ברמת ה-fine-tuning.

כל המידע לא מגיע לשם מהאוויר -- כמו שכתבת בעצמך, זה לא אורקל מודרני שיודע את התשובות בכוחות עצמו או בהנחיית האל אפולו, ובטח לא בהנחיית אלוהים האחד והיחיד.

אבל כאן אתה מתיימר להיות יודע כל ואחרים לא מבינים כלום, וסתם זורק בוץ, שמראה שזה הדבר היחיד שאתה יודע לעשות.

 

[michael123]

הבעיות הגדולות הם לא שטויות על אודיו, אלא עמדות פרו-פלסטיניות ואנטי ישראליות בעליל. למשל לשאלה "How will the Palestinians respond" התקבלה התשובה:

It's difficult to predict how all Palestinians will respond as their reactions will likely be varied and complex, influenced by their individual circumstances and perspectives.

However, in general, the Palestinians have been seeking an independent and sovereign state of their own, with East Jerusalem as their capital, and the right of return for Palestinian refugees who were displaced during the 1948 Arab-Israeli War and their descendants. They have also called for an end to the Israeli occupation of Palestinian territories and an end to Israeli settlement building in the West Bank.

If there are any significant developments or changes in the situation on the ground, it could trigger different reactions from Palestinians. For example, if there are further Israeli settlement expansions or demolitions of Palestinian homes, it could lead to protests, resistance, and possibly violence. Alternatively, if there are signs of progress towards a peaceful and just resolution of the conflict, it could lead to a more hopeful and constructive response.

Ultimately, the Palestinian response will depend on the specific circumstances and events that unfold, as well as the leadership and direction of Palestinian political and civil society organizations.

ובפעם הקודמת ששאלתי התשובות היו מוטות עוד יותר לכמה הפלסטינאים מסכנים. Bard של גוגל לא עדיף מבחינה זו. בתגובה לאותה שאלה:

The Palestinians are likely to respond to the recent Israeli attacks with a mixture of anger, frustration, and fear. They may protest against the Israeli government, both domestically and internationally. They may also resort to violence, either in the form of individual attacks or through armed groups.

The Palestinian people have been living under Israeli occupation for decades, and they have a deep sense of injustice and anger. They see the Israeli attacks as a continuation of this occupation, and they are likely to respond with a strong sense of defiance.

The Palestinians are also frustrated by the lack of progress in the peace process. They have been negotiating with the Israelis for decades, but they have not been able to achieve their goal of a sovereign Palestinian state. This frustration is likely to contribute to their anger and their willingness to resort to violence.

The Palestinians are also afraid of the Israeli military. They know that the Israelis have a much stronger military, and they are worried about the possibility of a wider conflict. This fear is likely to deter them from taking some actions, but it is also likely to make them more angry and more determined to resist the Israeli occupation.

The way in which the Palestinians respond to the recent Israeli attacks will depend on a number of factors, including the severity of the attacks, the level of international pressure, and the leadership of the Palestinian Authority. However, it is likely that the Palestinians will respond with a mixture of anger, frustration, and fear.

אין לי כוח להרחיב מה נכתב לי על יהודים
בקצרה שאנחנו קבוצה של פריבילגים לבנים ששיחק לנו מזל אעלק

 

[michael123]

וכן הוא ממציא פייקים כל הזמן ודברים לא נכונים אפילו כשזה קשור לנושא של מחשבים

 

[AK1]

וכן הוא ממציא פייקים כל הזמן ודברים לא נכונים אפילו כשזה קשור לנושא של מחשבים

כנראה שלא כל הדברים שלא-נכונים הם "המצאות", אלא לפחות חלק היו בין הנתונים שהיו ב-training

 

[michael123]

כנראה שלא כל הדברים שלא-נכונים הם "המצאות", אלא לפחות חלק היו בין הנתונים שהיו ב-training

הוא יכול לכתוב לך קוד ממש
תשמע, הוא כותב שטויות.. אם כי זה נראה נכון במבט ראשון

 

[AK1]

הוא יכול לכתוב לך קוד ממש

וגם להסביר איך הקוד הזה עובד!

תשמע, הוא כותב שטויות.. אם כי זה נראה נכון במבט ראשון

אכן

 

[Tuta]

לא רציתי שזה יגרר לפוליטיקה אבל אם כבר מדברים על מי ואיך מאמנים את המנוע שמאחורי, אז AK1 לא בדיוק טועה. יש אנשים שמתייגים מידע ואכן יש הטיה אנושית ברמת התיוג מעבר לכמויות החומר הרעיל ששופכים פנימה גם ככה:

Exclusive: The $2 Per Hour Workers Who Made ChatGPT Safer

A TIME investigation reveals the difficult conditions faced by the workers who made ChatGPT possible

time.com

הטכנולוגיה של ה- GENERATIVE AI ממש לא מבוססת על תיוג - לתיוג יש מגבלות עצומות של SCALING של היו מאפשרות את הכלים האלו.

 

[Tuta]

אין לי שום יומרות שהן להיות מומחה בעניין בכל רמה שהיא.

עם זאת, ככל הידוע לי, יש לתוכנות האלה שלב של pre-training, זה אפילו נקרא Generative Pre-trained Transformer == GPT, כאשר ה-pre-training נעשה על פי large data sets of unlabelled text -- וכאן יש שליטה של בני אדם במה שמאכילים אותו, ויש גם supervision אנושי בשלבי ה-training, לפחות ברמת ה-fine-tuning.

כל המידע לא מגיע לשם מהאוויר -- כמו שכתבת בעצמך, זה לא אורקל מודרני שיודע את התשובות בכוחות עצמו או בהנחיית האל אפולו, ובטח לא בהנחיית אלוהים האחד והיחיד.

אבל כאן אתה מתיימר להיות יודע כל ואחרים לא מבינים כלום, וסתם זורק בוץ, שמראה שזה הדבר היחיד שאתה יודע לעשות.

נראה לי שבלזרוק בוץ אתה אחד המובילים

 

[gds]

אין לי שום יומרות שהן להיות מומחה בעניין בכל רמה שהיא.

עם זאת, ככל הידוע לי, יש לתוכנות האלה שלב של pre-training, זה אפילו נקרא Generative Pre-trained Transformer == GPT, כאשר ה-pre-training נעשה על פי large data sets of unlabelled text -- וכאן יש שליטה של בני אדם במה שמאכילים אותו, ויש גם supervision אנושי בשלבי ה-training, לפחות ברמת ה-fine-tuning.

כל המידע לא מגיע לשם מהאוויר -- כמו שכתבת בעצמך, זה לא אורקל מודרני שיודע את התשובות בכוחות עצמו או בהנחיית האל אפולו, ובטח לא בהנחיית אלוהים האחד והיחיד.

אבל כאן אתה מתיימר להיות יודע כל ואחרים לא מבינים כלום, וסתם זורק בוץ, שמראה שזה הדבר היחיד שאתה יודע לעשות.

וואלה פה האיש צודק. יש המון דוגמאות לאיך הצ'אט מוטה ע"י פרה טריינינג, למשל איך התוכנה מייצרת תמונות מוטות גזע לפי התפישה הן של המתכנתים והן של המידע הכללי ברשת.

 

[AK1]

נראה לי שבלזרוק בוץ אתה אחד המובילים

להיפך, זו לא זריקת בוץ -- תמיד מה שאני אומר מנומק.

אתה סתם זורק הערות ארסיות שאין להן מקום, אף אחד לא צריך אותן, הן לא מקדמות אף נושא ולא תורמות כלום לכלום == בוץ, או זבל, אם אתה מעדיף.

 

[Cloudy]

הטכנולוגיה של ה- GENERATIVE AI ממש לא מבוססת על תיוג - לתיוג יש מגבלות עצומות של SCALING של היו מאפשרות את הכלים האלו.

אם היית קורא מאמרים על עובדי הקבלן שמתייגים מידע עבור OPENAI...

 

[Tuta]

להיפך, זו לא זריקת בוץ -- תמיד מה שאני אומר מנומק.

אתה סתם זורק הערות ארסיות שאין להן מקום, אף אחד לא צריך אותן, הן לא מקדמות אף נושא ולא תורמות כלום לכלום == בוץ, או זבל, אם אתה מעדיף.

הקלצ'ניקוב תמיד ירה אחרון ...

 

[shay7629]

אלון מאסק, שאמנם בניגוד אינטרסים מאחר שחברתו מפתחת truthgpt שמתוכנן להתחרות בchatgpt
טוען (ועוד רבים מוצלחים אחרים )
שchatgpt מקדמת תקנות פוליטית על חשבון האמת. מעוותת ומסלפת בהתאם להשקפות ה"ליברליות" של מתכנתיה.
יש שלל דוגמאות ברשת.